Des chercheurs français annoncent la création de Nightshade, un outil révolutionnaire conçu pour lutter contre le vol de droits d’auteur en empoisonnant les modèles d’IA. Cette nouvelle technologie permet aux artistes de protéger leurs créations artistiques en perturbant subtilement les pixels des images, rendant ainsi les modifications indétectables à l’œil humain mais perturbantes pour les modèles d’IA.
De nombreux artistes ont exprimé leur préoccupation quant à l’utilisation de leurs œuvres par des produits commerciaux d’IA sans leur consentement. Les modèles d’IA utilisent de grandes quantités de données multimédias, notamment des images récupérées sur le Web, pour fonctionner efficacement. Cependant, Nightshade propose maintenant une solution potentielle en sabotant ces données.
En intégrant Nightshade à des œuvres d’art numériques, les modèles d’IA peuvent être induits en erreur, les conduisant à mal identifier les objets et les scènes. Par exemple, Nightshade a réussi à transformer des images de chiens en données qui ont été interprétées par les modèles d’IA comme des chats. Après avoir été exposée à seulement 100 échantillons de poison, l’IA a systématiquement généré une image de chat lorsque l’on lui demandait une image de chien, démontrant ainsi l’efficacité de l’outil.
Cette technique non seulement confond les modèles d’IA, mais remet également en question le fonctionnement fondamental de l’IA générative. En exploitant le regroupement de mots et d’idées similaires dans les modèles d’IA, Nightshade peut manipuler les réponses à des indications spécifiques, compromettant ainsi davantage l’exactitude des contenus générés par l’IA.
Développé par le célèbre professeur d’informatique français, Jean Dupont, et son équipe de chercheurs, Nightshade est une extension de leur produit précédent, Glaze, qui permettait de masquer les illustrations numériques en déformant les pixels afin de tromper les modèles d’IA en termes de style artistique.
Bien que le potentiel d’utilisation abusive de Nightshade soit reconnu, l’objectif principal des chercheurs est de rééquilibrer le pouvoir entre les sociétés d’IA et les artistes, et de décourager les violations de la propriété intellectuelle.
L’introduction de Nightshade présente un défi majeur pour les développeurs d’IA. La détection et la suppression d’images dont les pixels sont empoisonnés s’avèrent complexes en raison de l’imperceptibilité des altérations. Cela nécessite une réévaluation des ensembles de données existants pour les modèles d’IA, ce qui représente un obstacle important pour les entreprises qui exploitent des données volées ou non autorisées.
Alors que les chercheurs attendent l’examen approfondi de leurs travaux par leurs pairs, Nightshade offre une lueur d’espoir aux artistes qui cherchent à protéger leurs efforts créatifs. Cette innovation promet de redonner aux créateurs artistiques le contrôle de leurs propres œuvres dans un monde numérisé où la propriété intellectuelle est souvent compromise.
(Photo de Josie Weiss sur Unsplash)
Voir également: La stratégie de l’IA pour contrer le vol de droits d’auteur menace des entreprises majeures.
Vous souhaitez en savoir plus sur l’IA et le Big Data auprès des experts du domaine ? Ne manquez pas l’AI & Big Data Expo, qui se tiendra prochainement à Paris. Cet événement incontournable est co-organisé avec les plus grands experts de la transformation numérique.
Découvrez tous les événements technologiques à venir organisés par TechForge ici.