Le Royaume-Uni met en évidence les risques de l’IA avant le Sommet mondial sur la sécurité
Le gouvernement britannique a publié un rapport complet sur les capacités et les risques associés à l’IA à la frontière.
Le Premier ministre britannique, Rishi Sunak, a souligné aujourd’hui la responsabilité mondiale de faire face aux risques soulignés dans le rapport et d’exploiter le potentiel de l’IA. Sunak a souligné la nécessité d’un dialogue honnête sur la double nature de l’IA : offrant des opportunités sans précédent, mais présentant également des dangers importants.
« L’IA apportera de nouvelles connaissances, de nouvelles opportunités de croissance économique, de nouveaux progrès en matière de capacités humaines et la possibilité de résoudre des problèmes que nous pensions autrefois hors de notre portée. Mais cela entraîne également de nouveaux dangers et de nouvelles craintes », a déclaré Sunak.
« Donc, la chose responsable que je dois faire est d’aborder ces craintes de front, en vous donnant la tranquillité d’esprit que nous assurerons votre sécurité tout en veillant à ce que vous et vos enfants ayez toutes les opportunités d’un avenir meilleur que l’IA peut apporter.
« Faire la bonne chose, et non la chose facile, signifie être honnête avec les gens quant aux risques liés à ces technologies. »
Le rapport, intitulé « Évaluation des risques et des capacités de l’IA à la frontière », compile les perspectives diverses au sein des communautés scientifiques, expertes et mondiales concernant les risques associés à l’évolution rapide de la technologie de l’IA.
La publication comprend trois sections clés :
1. Capacités et risques de l’IA à la frontière : Cette section présente un document de discussion préconisant des recherches plus approfondies sur les risques liés à l’IA. Il décrit l’état actuel des capacités avancées de l’IA, les améliorations futures potentielles et les risques associés, tels que les dommages sociaux, les abus et la perte de contrôle.
2. Risques de sûreté et de sécurité de l’IA générative jusqu’en 2025 : Basé sur des évaluations du renseignement, ce rapport décrit les avantages potentiels mondiaux de l’IA générative tout en soulignant les risques accrus en matière de sûreté et de sécurité. Il met en avant l’amélioration des capacités des acteurs dangereux et l’efficacité des attaques grâce au développement de l’IA générative.
3. Risques futurs de l’IA avancée : Préparé par le Bureau gouvernemental pour la science, ce rapport explore les incertitudes liées au développement de l’IA à la frontière, les risques systémiques futurs et les scénarios potentiels pour l’IA jusqu’en 2030.
Le rapport met l’accent sur l’IA générative, la technologie sous-jacente des chatbots populaires et des logiciels de génération d’images. Il envisage un avenir où l’IA pourrait être utilisée par des terroristes pour planifier des attaques biologiques ou chimiques, suscitant de sérieuses inquiétudes en matière de sécurité mondiale.
Sjuul van der Leeuw, PDG de Deployteq, a commenté : « Il est encourageant de voir le gouvernement adopter une approche sérieuse en publiant ce rapport avant le Sommet sur la sécurité la semaine prochaine, mais il reste encore beaucoup à faire.
« Un effort continu pour faire face aux risques liés à l’IA est nécessaire, et nous espérons que le sommet apportera la clarté indispensable, permettant aux entreprises et aux spécialistes du marketing de profiter des avantages offerts par cette technologie émergente, sans craindre les réactions négatives. »
Le rapport souligne que l’IA générative pourrait être utilisée pour recueillir des informations sur les attaques physiques perpétrées par des acteurs violents non étatiques, tels que la création d’armes chimiques, biologiques et radiologiques.
Bien que les entreprises s’efforcent d’établir des mesures de précaution, le rapport souligne l’efficacité variable de ces mesures. Les obstacles à l’acquisition des connaissances, des matières premières et de l’équipement nécessaires à de telles attaques diminuent, l’IA pouvant potentiellement accélérer ce processus.
De plus, le rapport met en garde contre la probabilité d’une augmentation de la vitesse, de l’efficacité et de l’échelle des cyberattaques basées sur l’IA d’ici 2025. L’IA pourrait aider les pirates informatiques à imiter la langue officielle et à surmonter les défis auxquels ils étaient confrontés dans ce domaine.
Cependant, certains experts remettent en question l’approche du gouvernement britannique.
Rashik Parmar MBE, PDG de BCS, The Chartered Institute for IT, a déclaré : « Plus de 1 300 technologues et dirigeants ont signé notre lettre ouverte qualifiant l’IA de force bénéfique plutôt que de menace existentielle pour l’humanité.
« L’IA ne se développera pas comme Terminator. Si nous prenons les mesures appropriées, elle sera un copilote de confiance, de nos premiers jours d’école à notre retraite. »
Le Sommet mondial sur la sécurité de l’IA, qui se tiendra au parc historique de Bletchley du 1er au 2 novembre 2023, vise à favoriser une discussion saine sur la gestion des risques de l’IA aux frontières, notamment l’utilisation abusive par des acteurs non étatiques pour des cyberattaques ou la conception d’armes biologiques, ainsi que les préoccupations liées à l’IA agissant de manière autonome contrairement aux intentions humaines. Les discussions porteront également sur les impacts plus larges sur la société, tels que la perturbation des élections, les préjugés, la criminalité et la sécurité en ligne.
Claire Trachet, PDG de Trachet, a commenté : « La nature en constante évolution de l’IA rend difficile pour les gouvernements de trouver un équilibre entre la création d’une réglementation efficace qui protège les intérêts des entreprises et des consommateurs, sans étouffer les opportunités d’investissement. Bien qu’il existe actuellement certaines formes de gestion des risques et de différents rapports, aucun d’entre eux ne constitue une véritable approche coordonnée.
« L’engagement du gouvernement britannique en faveur de la sécurité de l’IA est louable, mais les critiques entourant le sommet rappellent l’importance d’une approche équilibrée, constructive et tournée vers l’avenir en matière de réglementation de l’IA. »
Selon le rapport du gouvernement britannique, la nécessité d’une collaboration autour de mesures proportionnées mais rigoureuses pour gérer les risques de l’IA est plus impérative que jamais.
Le Sommet mondial sur la sécurité de l’IA se tiendra au parc historique de Bletchley du 1er au 2 novembre 2023.
(Crédit image : GOV.UK)
Voir également : BSI : Combler le « écart de confiance en l’IA » est la clé pour débloquer des avantages
Vous souhaitez en savoir plus sur l’IA et le Big Data auprès des leaders du secteur ? Découvrez AI & Big Data Expo qui se déroulera à Amsterdam, en Californie et à Londres. L’événement complet est co-organisé avec Cyber Security & Cloud Expo et Digital Transformation Week.
Découvrez d’autres événements et webinaires technologiques d’entreprise à venir proposés par TechForge ici.