OpenAI a pris la décision de suspendre le développeur de Dean.Bot, un chatbot conçu pour se faire passer pour le candidat démocrate à la présidentielle Dean Phillips.
Cette décision de suspension fait suite à une violation des politiques d’OpenAI visant à prévenir l’utilisation abusive de sa technologie. En effet, l’objectif de Dean.Bot était de diffuser le message du candidat et d’interagir avec des partisans potentiels, ce qui contredit directement les politiques établies par OpenAI.
Cette affaire met en lumière l’importance pour les entreprises de technologie de prendre des mesures préventives contre l’utilisation abusive de leurs outils, notamment en période électorale. En effet, les chatbots se faisant passer pour des candidats politiques sont strictement interdits par OpenAI, qui étend cette interdiction à des fins de campagne politique et de lobbying en général.
Cette affaire intervient dans un contexte électoral crucial, non seulement aux États-Unis, mais également dans d’autres démocraties occidentales. Il est essentiel de prévenir toute interférence ou diffusion de désinformation par le biais de technologies telles que les chatbots.
Suite à l’intervention d’OpenAI, le chatbot a été suspendu définitivement, tandis que les visiteurs du site Web sont informés que Dean.Bot est actuellement indisponible en raison de « difficultés techniques ».
Cette affaire soulève des questions éthiques importantes quant à l’utilisation de la technologie à des fins politiques et met en lumière la nécessité pour les entreprises de technologie de mettre en place des politiques strictes pour prévenir toute utilisation abusive de leurs outils.
Il est primordial pour OpenAI et d’autres entreprises de technologie d’agir de manière proactive pour éviter toute manipulation ou désinformation lors d’événements politiques majeurs.