Le dirigeant de Google DeepMind réagit aux propos du responsable de l’IA chez Meta, évoquant une vision effrayante d’un avenir où l’IA deviendrait une menace pour l’humanité : En quête d’un appel urgent à la réglementation

Le patron d’une grande entreprise de technologie répond à un chef de division d’une autre entreprise, qui l’accuse d’entretenir la peur d’un futur où l’intelligence artificielle (IA) deviendrait une menace pour l’humanité. Selon ce responsable, il faudrait réglementer le secteur de l’IA au profit des géants technologiques, ce qui conduirait à une prolifération des systèmes d’IA propriétaires au détriment des systèmes open source. Cette question suscite un débat intense et divisé, où l’ouverture du code source et la transparence des mécanismes de formation de l’IA sont remises en question.

Le responsable de Google DeepMind, Demis Hassabis, estime quant à lui que les risques liés à l’IA doivent être traités avec la même conviction que les efforts de lutte contre le changement climatique. Selon lui, il est urgent de réglementer davantage l’IA pour lutter contre les crises existentielles posées par une technologie qui possède des niveaux d’intelligence supérieurs à ceux des humains. Hassabis affirme que le monde ne peut pas se permettre de retarder sa réponse à cette problématique. Il propose ainsi la création d’un organisme similaire au GIEC pour réguler l’IA, ainsi qu’un équivalent du CERN et de l’Agence internationale de l’énergie atomique pour superviser la recherche et la sécurité de l’IA à l’échelle mondiale.

Ces déclarations interviennent alors que le Royaume-Uni envisage d’accueillir un sommet mondial sur la gouvernance de l’IA, qui pourrait permettre d’établir un consensus international sur les dangers de cette technologie. Cela reflète la position de Hassabis sur la nécessité d’une régulation mondiale de l’IA.

En réponse à ces prises de position, Yann LeCun, responsable de l’IA chez Meta, défend une approche différente. Contrairement aux discours alarmistes, LeCun considère que l’IA n’est pas intelligente et qu’elle est encore moins intelligente que les chats. Il juge absurde de penser que l’IA pourrait anéantir l’espèce humaine. Selon lui, une réglementation prématurée de l’IA freinerait la recherche et l’innovation, renforcerait la domination des grandes entreprises technologiques et empêcherait la concurrence. Il plaide donc en faveur de la transparence dans le développement de l’IA grâce à l’open source.

Cette opposition entre les deux professionnels soulève des questions cruciales sur l’avenir de l’IA. Des études ont montré que des modèles d’IA tels que ChatGPT pouvaient générer du code malveillant, ouvrir des portes dérobées et même aider à développer des logiciels malveillants. Cela soulève des inquiétudes quant à la sécurité des systèmes d’IA et à la responsabilité des grandes entreprises technologiques qui les développent.

Dans ce débat, faut-il privilégier l’ouverture du code source et la transparence totale des mécanismes de formation de l’IA, ou opter pour des systèmes fermés pour éviter que des outils puissants ne tombent entre de mauvaises mains ? Les avis divergent, et chaque position présente ses avantages et ses inconvénients.

Il est clair que la question de la réglementation de l’IA est cruciale et nécessite une réflexion approfondie. La technologie continue de progresser à un rythme effréné, et il est essentiel de prendre des mesures pour garantir la sécurité et l’éthique de son développement. Le débat entre les acteurs majeurs de l’industrie, tels que Google DeepMind et Meta, ne fait que souligner l’urgence de la situation.

Quelle que soit la solution adoptée, il est essentiel de mettre en place une régulation mondiale de l’IA. Une coordination au niveau international est nécessaire pour éviter les abus et les risques posés par cette technologie. Il ne s’agit pas de freiner l’innovation, mais plutôt de la guider dans une direction qui soit bénéfique pour l’humanité tout en garantissant la sécurité et l’éthique de l’IA.

Et vous, quelle est votre opinion sur ce débat ?

Laisser un commentaire