La venue imminente de l’AGI : OpenAI lance un programme de subventions pour contrer les risques

OpenAI estime que la superintelligence artificielle (AGI) pourrait arriver dans les 10 prochaines années. Pour contrôler les risques liés à cette avancée, la société a annoncé le lancement d’un programme de subventions de 10 millions de dollars, connu sous le nom de Superalignment Fast Grants.

Ce programme vise à soutenir et stimuler la recherche technique axée sur l’alignement et la sécurité des systèmes d’IA surhumains. Selon des experts en intelligence artificielle, cette initiative est cruciale pour garantir que la technologie profite à l’ensemble de l’humanité.

Les systèmes d’IA surhumains sont capables de surpasser l’intelligence humaine dans les tâches les plus rentables. OpenAI estime que l’avènement de la superintelligence pourrait être imminent, potentiellement au cours de la prochaine décennie. Il est important de noter que cette évolution peut apporter d’énormes bénéfices, depuis des avancées en matière de soins de santé jusqu’à la résolution de problèmes mondiaux complexes, mais comporte également des risques importants.

La tâche de garantir que ces systèmes d’IA surhumains soient alignés sur les valeurs et les intérêts humains et puissent être contrôlés et dignes de confiance par les humains, est au centre des préoccupations de la communauté de l’IA. Les techniques actuelles d’alignement de l’IA pourraient ne pas suffire pour les futurs systèmes d’IA surhumains. Ces systèmes avancés présentent des comportements complexes et créatifs que les méthodes actuelles ne seront peut-être pas en mesure de contrôler pleinement.

Conscient de l’insuffisance des techniques d’alignement actuelles, OpenAI a lancé le projet Superalignment. Ce projet vise à rassembler les meilleurs chercheurs et ingénieurs pour relever le défi de l’alignement et de la sécurité de l’IA surhumaine. Afin de soutenir cet effort, OpenAI a annoncé le programme de subventions Superalignment Fast Grants qui offrira des subventions allant de 100 000 $ à 2 millions de dollars aux laboratoires universitaires, aux organisations à but non lucratif et aux chercheurs individuels. De plus, une bourse OpenAI Superalignment d’un an d’une valeur de 150 000 $ sera offerte aux étudiants de troisième cycle.

En lançant le programme Superalignment Fast Grants, OpenAI montre son engagement à garantir que l’IA profite à l’ensemble de l’humanité. Ce projet permet également d’attirer de nouvelles personnes dans le domaine et d’encourager un plus large éventail de perspectives et d’idées. En offrant des subventions à des chercheurs œuvrant pour la première fois dans ce domaine, OpenAI espère obtenir des contributions exceptionnelles pouvant contribuer à façonner le domaine de l’IA pour l’avenir. Le processus de candidature est simple, avec un délai de réponse de quatre semaines après la clôture des candidatures, garantissant ainsi un retour rapide des candidats.

Ainsi, le lancement du programme Superalignment Fast Grants représente une avancée significative dans le domaine de l’IA, soulignant l’importance cruciale d’aligner les systèmes d’IA surhumains sur les valeurs humaines et d’assurer leur sécurité. OpenAI invite les chercheurs et ingénieurs du monde entier à se joindre à ce défi pour façonner l’avenir de l’intelligence artificielle.

Laisser un commentaire