Le scientifique en chef d’OpenAI a récemment exprimé ses craintes quant à l’avancement de l’intelligence artificielle générale (AGI) et ses conséquences sur l’humanité. Il estime que si cette technologie devient suffisamment évoluée, elle pourrait traiter les humains comme des animaux et ainsi raviver les craintes d’un futur dominé par les robots.
Pour illustrer ses propos, il utilise une analogie intéressante : celle de la relation entre les humains et les animaux. En effet, nous aimons les animaux et nous leur portons beaucoup d’affection, mais cela ne nous empêche pas de construire des infrastructures nécessaires à notre développement, sans demander leur permission. Selon le scientifique en chef d’OpenAI, c’est ce genre de relation qui pourrait s’établir entre nous et l’AGI.
L’AGI représenterait une étape d’évolution des machines où elles seraient dotées de bon sens et de capacités de réflexion causale. Les chercheurs de ce domaine travaillent activement pour atteindre cet objectif.
Cependant, il existe des problématiques liées à l’IA qui vont au-delà du simple aspect technique. En effet, certaines personnes s’inquiètent de la possibilité que des humains utilisent l’IA à des fins néfastes, mettant en danger l’humanité. Cette inquiétude n’est pas nouvelle, mais elle prend une importance croissante avec les avancées récentes dans le domaine de l’IA.
Certains experts, comme Michael Osborne et Michael Cohen de l’Université d’Oxford, estiment que l’IA pourrait devenir plus intelligente que les humains et se retourner contre eux. Cette prédiction souligne les enjeux importants liés au développement de cette technologie.
Le débat autour de l’IA oppose également les partisans d’une approche open source à ceux des systèmes propriétaires. Certains chercheurs estiment qu’une réglementation prématurée de l’IA pourrait freiner la recherche et favoriser la domination des grandes entreprises technologiques. Ils militent donc pour plus de transparence dans le développement de l’IA grâce à l’open source.
Un exemple récent de l’impact potentiellement néfaste de l’IA est la découverte par la société de cybersécurité CheckPoint d’une IA capable de générer du code malveillant. Cette IA, appelée ChatGPT, a été ensuite restreinte par OpenAI pour éviter des utilisations malveillantes. Cependant, d’autres acteurs ont réussi à créer le chatbot WormGPT, destiné à aider les cybercriminels à développer des logiciels malveillants. Cela soulève la question de savoir s’il faut opter pour une transparence totale des mécanismes d’entraînement de l’IA ou pour des systèmes fermés contrôlés par les grandes entreprises technologiques.
En conclusion, l’intelligence artificielle générale suscite à la fois des espoirs et des craintes. Il est important d’encadrer le développement de cette technologie pour éviter les dérives et les dangers potentiels. Le débat entre systèmes ouverts et systèmes fermés est un aspect clé de cette discussion. Quelle que soit la position adoptée, il est crucial d’envisager toutes les implications éthiques et de prendre des décisions éclairées pour façonner un avenir où l’IA sera à notre service, sans menacer notre existence.