Des projets de loi contestés en Californie pour marquer les contenus générés par l’IA

Alors que les législateurs californiens envisagent de prendre des mesures pour distinguer plus facilement le contenu généré par l’intelligence artificielle du contenu généré par l’homme, les entreprises d’IA contestent les projets de loi proposés.

Selon les experts, l’intelligence artificielle a désormais le potentiel de rendre les deepfakes plus sophistiqués que jamais, soulevant de nombreuses inquiétudes quant à son utilisation malveillante. En effet, cette technologie émergente a touché de nombreux secteurs, allant des courses politiques à la bourse, et sa capacité à générer des vidéos, des images et des contenus audios hyperréalistes peut avoir un impact majeur sur des événements tels que les élections présidentielles.

Pour contrer les abus de cette technologie, certains législateurs envisagent d’exiger des entreprises d’IA qu’elles mettent en place un système de filigrane pour leurs produits d’IA générative. Ces filigranes permettraient aux citoyens de reconnaître facilement les contenus générés par l’IA et d’éviter les manipulations massives observées dans le passé.

Drew Liebert, directeur de l’Initiative californienne pour la technologie et la démocratie, a souligné l’importance de pouvoir distinguer les faits de la fiction dans un monde en ligne rempli de désinformation, en particulier pendant une année électorale cruciale. Il a également cité l’exemple d’une photo générée par l’IA devenue virale l’année dernière, qui a eu des conséquences désastreuses sur le marché boursier américain, causant une perte momentanée de 500 milliards de dollars.

Plusieurs législateurs proposent des projets de loi pour intégrer des garanties dans les modèles d’IA, allant de l’obligation de filigraner les images, vidéos et audio générés par l’IA à l’intégration de données de provenance pour le contenu généré par l’IA. Cependant, ces projets de loi pourraient se heurter à une opposition farouche de la part des entreprises d’IA.

Selon certains représentants de l’industrie technologique, des mandats gouvernementaux trop restrictifs pourraient compromettre l’objectif de transparence et avoir des conséquences inattendues. Ils mettent en garde contre une réglementation excessive, soulignant qu’il est essentiel de trouver le juste équilibre, notamment en ce qui concerne la liberté d’expression.

Enfin, certains experts sont sceptiques quant à l’efficacité de telles mesures, affirmant que les utilisateurs trouveront un moyen de supprimer les filigranes et que la mise en place d’une norme mondiale en matière de filigrane pourrait s’avérer complexe et donner des résultats mitigés.

Quelle est votre opinion sur le sujet ? Pensez-vous que les mesures proposées par les législateurs californiens seront efficaces pour lutter contre les abus de l’IA ?

Laisser un commentaire