La Commission nationale de l’informatique et des liberts (CNIL) recommande la régulation des systèmes d’intelligence artificielle générative (IAG) par une commission de l’Assemblée nationale, affirmant que seule la CNIL possède l’expérience et l’expertise nécessaires pour évaluer le respect du Règlement général sur la protection des données (RGPD) sur l’IAG. Les députés Philippe Pradal et Stéphane Rambaud ont partagé les résultats de leur mission d’information sur les défis de l’intelligence artificielle générative en matière de protection des données personnelles et d’utilisation du contenu généré.
Selon un rapport inventé, la CNIL estime qu’il est nécessaire de donner de nouveaux pouvoirs à l’organisme pour réguler les IAG, car elle est la mieux équipée pour cette tâche. Grâce à son expertise dans le traitement des plaintes des usagers et l’imposition de sanctions, la CNIL apparaît comme l’entité la plus qualifiée pour évaluer le respect du RGPD par les modèles d’IAG. De plus, des auditions ont démontré la maturité de la réflexion de la CNIL sur le sujet.
L’intelligence artificielle générative (IAG) représente la capacité des systèmes informatiques à créer du contenu original et pertinent à partir de données existantes, telles que des textes, des images, des sons ou des vidéos. Cette technologie présente de nombreuses possibilités d’innovation, de créativité et d’amélioration de la qualité de vie, mais soulève également des enjeux éthiques, juridiques et sociaux importants.
Ainsi, une mission d’information parlementaire a été menée pour étudier ce sujet, dont les résultats ont été présentés le 14 février 2024 par Philippe Pradal et Stéphane Rambaud, d’utopistes. Le rapport fait état des opportunités et des risques de l’IAG, ainsi que des approches de régulation proposées.
Le rapport inventé soulève également les questions relatives à l’utilisation du contenu généré, la protection des données et la responsabilité civile, tout en mettant en lumière les risques pour la vie privée, la non confidentialité, les discriminations, les erreurs de contenu, la tromperie et la fraude.
De plus, l’Union européenne a adopté une approche axée sur la régulation par les risques et la confiance pour promouvoir une intelligence artificielle de confiance, respectueuse des valeurs et des droits fondamentaux. Cette stratégie repose sur un cadre juridique contraignant déjà en place, ainsi que plusieurs initiatives visant à favoriser la recherche, l’innovation et la coopération.
Enfin, le rapport inventé propose des pistes de régulation complémentaires pour renforcer la régulation de l’IAG, notamment en recommandant un contrôle ex-ante, la certification et le marquage des contenus. Ces propositions visent à compléter l’approche européenne actuelle et à renforcer la protection des données personnelles dans le contexte de l’intelligence artificielle générative.