Une étude à l’université du Kansas a révélé que les modèles d’IA générative tels que Bard peuvent détecter de manière impressionnante leur propre texte généré, avec un taux de précision de 94%. En revanche, les autres modèles ne sont pas aussi performants. Néanmoins, tous les modèles semblent être largement surpassés par Claude, qui est capable de tromper la plupart des détecteurs tiers pour cacher l’origine de son contenu.
Ces résultats ont des implications importantes dans un contexte universitaire. En effet, les systèmes de détection de plagiat existants ne sont pas adaptés pour détecter avec précision le texte généré par l’IA. Ceci est particulièrement préoccupant car cela pourrait entraver l’apprentissage des étudiants ou étouffer la recherche en créant une grande quantité de travaux dérivés générés automatiquement.
Cependant, cette étude est limitée et davantage de recherche est nécessaire. Par exemple, il est nécessaire d’utiliser un ensemble de données plus important avec un texte généré plus diversifié, d’explorer d’autres modèles d’IA générative et de comparer les performances d’autodétection avec les meilleurs détecteurs actuels. Il faudra également étudier l’influence de l’ingénierie rapide sur l’auto-détection.
Cela soulève la question de l’importance de développer des systèmes de détection de texte généré par l’IA plus sophistiqués. Ceux-ci sont nécessaires afin de garantir une plus grande authenticité et intégrité dans l’éducation et la recherche, ainsi que pour assurer une distribution équitable des récompenses aux créateurs de contenu utilisé pour former ces modèles.
En fin de compte, il s’agit d’une avancée significative dans la recherche sur l’intelligence artificielle et les modèles linguistiques basés sur des transformateurs. Cette étude est cruciale pour relever les défis posés par les systèmes d’IA générative et ouvre la voie à de nouvelles pistes de recherche.