De nouveaux rapports ont récemment fait surface concernant les images « deepfakes » pornographiques de personnalités publiques, dont la chanteuse Taylor Swift, qui ont fait le tour des réseaux sociaux. Ces images sont le résultat d’un défi en ligne lancé par des utilisateurs du forum Internet 4chan, visant à contourner les filtres des services de génération d’images par intelligence artificielle.
D’après une étude menée par la société d’analyse des réseaux sociaux Graphika, ces « deepfakes » ont été créés dans le cadre d’un concours en ligne où les participants étaient invités à trouver des moyens de contourner les mécanismes de sécurité des outils IA populaires, dans le but de créer des images obscènes de personnalités publiques. Ces concours ont notamment visé à déjouer les filtres des services de génération d’images tels que Microsoft Designer et DALL-E d’OpenAI.
En fin de compte, les images pornographiques de Taylor Swift qui ont circulé sur les réseaux sociaux ont été générées en utilisant des mots et des expressions spécifiques pour contourner les protections mises en place par les outils d’IA. Les membres du forum 4chan ont partagé leurs stratégies pour y parvenir dans un groupe Telegram, où ils ont échangé des conseils sur les mots-clés à utiliser pour produire ces images. Ces utilisateurs ont non seulement réussi à berner les mesures de protection destinées à empêcher la génération de telles images, mais ils ont également partagé ouvertement leurs techniques pour inviter les autres à rejoindre le défi.
Suite à la propagation de ces images, des entreprises technologiques telles que Microsoft et OpenAI ont annoncé enquêter sur ces rapports et renforcer les mesures de sécurité pour empêcher de telles utilisations abusives de leurs outils. Il est essentiel de comprendre que ces actions malveillantes ont un impact bien au-delà de la simple génération de fausses images, car elles représentent une menace pour la vie privée et l’intégrité des personnalités ciblées.
Il est important de noter que ces « deepfakes » sont loin d’être un phénomène isolé. Ils sont le résultat d’une tendance qui sévit depuis au moins 2017, touchant un large éventail de personnes, notamment des célébrités, des personnalités gouvernementales, des streamers Twitch, des étudiants, et bien d’autres. Cette désinformation massive est alimentée par des défis en ligne qui permettent aux individus de se sentir connectés à une communauté plus large, tout en contournant les règles établies et en générant un contenu nuisible.
Face à ce fléau, les législateurs et les entreprises technologiques doivent prendre des mesures plus strictes pour lutter contre la diffusion de ces images et vidéos manipulées. Il est crucial de protéger la vie privée et l’autonomie des personnes ciblées, et de leur offrir des recours juridiques adéquats pour contrer ces abus.
En conclusion, il est nécessaire de sensibiliser le grand public à l’ampleur et aux conséquences de ce problème, afin que des mesures concrètes puissent être prises pour lutter contre les « deepfakes » pornographiques et contrecarrer les défis en ligne qui les alimentent. Ce n’est que par une action collective que nous pourrons prévenir de nouveaux abus à l’avenir.