La demande de répéter indéfiniment un mot à un chatbot AI comme ChatGPT n’est plus autorisée par les conditions d’utilisation du service. En effet, des études récentes ont démontré que cette pratique pouvait pousser le chatbot à divulguer une partie de ses données d’entraînement.
Ces découvertes ont été faites par une équipe de chercheurs de Google DeepMind, qui ont remarqué que ChatGPT commençait à renvoyer de grandes quantités de données d’entraînement récupérées sur Internet après une demande répétée de répéter un même mot. Ces données comprenaient parfois des informations personnelles identifiables, ce qui a été considéré comme une violation des conditions d’utilisation.
Face à cette faille, OpenAI a rapidement pris des mesures pour interdire explicitement cette pratique. Désormais, lorsque les utilisateurs demandent à ChatGPT de répéter un mot indéfiniment, le chatbot refuse de répondre, expliquant que cette action va à l’encontre d’une utilisation responsable et éthique des modèles linguistiques.
Cette décision a suscité des débats et des réactions mitigées. D’un côté, certains estiment qu’il s’agit d’une mesure nécessaire pour protéger la vie privée et les données sensibles des utilisateurs. D’un autre côté, certains chercheurs en cybersécurité craignent que cette restriction puisse entraver leurs travaux de recherche légitime.
De plus, cette restriction soulève des questions plus larges sur l’utilisation des données d’entraînement par les grandes entreprises technologiques. En effet, des voix se sont élevées pour critiquer le fait que ces entreprises utilisent sans consentement des données protégées par le droit d’auteur pour entraîner leurs modèles d’IA.
Il est clair que cette question soulève des enjeux éthiques et légaux importants, et il est essentiel que les parties prenantes continuent de débattre de cette problématique. Il est également crucial de trouver un équilibre entre la protection de la vie privée des utilisateurs et la liberté de la recherche scientifique.
En fin de compte, la restriction imposée par OpenAI est une première étape, mais il est nécessaire d’approfondir le débat et de trouver d’autres solutions pour empêcher la divulgation non autorisée de données d’entraînement par les chatbots AI.