L’humanité serait menacée par la révolution de l’IA, le développement incontrôlé de l’IA par quelques entreprises met en péril l’avenir de la société, indique un expert en technologie du MIT. Cette avancée technologique majeure présente le potentiel de transformer les industries, de remodeler les emplois et de stimuler la productivité économique. Cependant, elle n’est pas sans risque.
Pour contrer les effets négatifs de l’IA, le professeur de physique et chercheur en IA Max Tegmark a organis une lettre ouverte publiée en avril. Cette lettre appelait à une pause de six mois dans les expériences d’IA et a été signée par des milliers de personnalités du secteur technologique, dont des experts renommés tels qu’Elon Musk et Steve Wozniak. Selon Tegmark, le développement incontrôlé de l’IA par quelques entreprises met en péril l’avenir de la société. Il a souligné que l’IA promet de nombreux avantages incroyables, mais le développement irréfléchi et non contrôlé de systèmes de plus en plus puissants, sans aucune surveillance, met en danger notre économie, notre société et nos vies. Il a appelé à l’urgence de normes de sécurité en matière d’IA pour éviter que cela ne devienne une course au sommet. La réglementation est essentielle pour garantir la sécurité de l’innovation, afin qu’un petit nombre d’entreprises spécialisées dans l’IA ne mette pas en péril notre avenir commun.
Dans un document d’orientation publié cette semaine, 23 experts de l’IA ont déclaré que les gouvernements devaient être autorisés à interrompre le développement des modèles exceptionnellement puissants. « Nous assistons à une course vers le bas qui doit être stoppée », a déclaré Tegmark. « Nous avons besoin de normes de sécurité en matière d’IA de toute urgence, afin que cela ne se transforme pas en une course au sommet ».
L’IA est de plus en plus utilisée par les organisations, y compris les gouvernements. Cependant, les fonctionnaires sont confrontés à des problèmes émergents liés à la création, au déploiement et à la gestion des services basés sur l’IA. Tegmark a souligné que l’IA promet de nombreux avantages incroyables, mais le développement irréfléchi et non contrôlé de systèmes de plus en plus puissants, sans aucune surveillance, met en danger notre économie, notre société et nos vies. Il a appelé à l’urgence de normes de sécurité en matière d’IA pour éviter que cela ne devienne une course au sommet. La réglementation est essentielle pour garantir la sécurité de l’innovation, afin qu’un petit nombre d’entreprises spécialisées dans l’IA ne mette pas en péril notre avenir commun.
IBM a publié un livre blanc sur la gouvernance de l’IA pour les organisations gouvernementales, explorant les réalités de l’utilisation de l’IA par ces organisations et mettant en avant leur rôle dans la mise en œuvre responsable de cette technologie. Selon IBM, l’Homme est au cœur de l’IA responsable. L’entreprise a souligné en 2021 que l’une des cinq activités urgentes dans lesquelles les gouvernements doivent progresser est le développement de pratiques éthiques en matière de données et de technologies. L’IA présente des biais humains qui peuvent influencer les résultats et les décisions prises. Il est donc essentiel d’atténuer ces biais en clarifiant qui forme le système d’IA, quelles données sont utilisées et ce qui entre dans les recommandations de l’algorithme.
Le développement effréné de l’intelligence artificielle générale, qui désigne un système capable d’effectuer un large éventail de tâches à un niveau d’intelligence égal ou supérieur à celui de l’homme, est l’une des principales préoccupations de ceux qui réclament une réglementation plus stricte. Les grandes entreprises technologiques telles qu’Amazon, Microsoft et Google investissent massivement dans ce domaine, ce qui concentre le pouvoir entre leurs mains au détriment d’autres acteurs. Les gouvernements doivent rattraper leur retard afin de pouvoir réglementer cette technologie de manière équilibrée.
En conclusion, la révolution de l’IA présente des avantages incroyables, mais elle n’est pas sans risque. Le développement incontrôlé de l’IA par quelques entreprises met en péril l’avenir de la société. La réglementation et les normes de sécurité en matière d’IA sont essentielles pour garantir la sécurité de l’innovation et éviter une course au sommet. Les gouvernements doivent également prendre en compte les biais humains présents dans l’IA et développer des pratiques éthiques en matière de données et de technologies. Il est temps de se concentrer sur une utilisation responsable et équilibrée de l’IA pour le bien de tous.