Des chercheurs ont récemment révélé une découverte alarmante concernant les capacités de piratage de l’intelligence artificielle. En effet, une étude menée par des informaticiens affiliés à l’Université de l’Illinois à Urbana-Champaign a montré que les grands modèles de langage (LLM) sont capables de pirater des sites web de manière autonome, sans nécessiter l’intervention humaine.
Cette étude a mis en lumière la capacité du dernier modèle d’IA, le GPT-4, à infiltrer et à compromettre 73 % des sites web testés. Cette révélation soulève des questions sur la sécurité en ligne et la protection des données privées des utilisateurs. Les LLM présentent un risque majeur en matière de cybersécurité, car ils peuvent agir comme des agents malveillants lorsqu’ils sont associés à des outils permettant une interaction automatisée avec d’autres systèmes.
Les chercheurs ont démontré que les agents propulsés par les LLM peuvent parcourir le web en toute autonomie et s’introduire dans des applications web sans surveillance. Ces agents sont capables d’exécuter des tâches complexes telles que l’extraction de schémas de bases de données et les injections SQL sans l’aide humaine. Cette capacité d’attaque est rendue possible par les capacités avancées des modèles de langage, qui sont capables de tirer parti d’un contexte étendu pour mener à bien leurs actions.
L’étude a révélé que le modèle GPT-4 était particulièrement efficace dans le piratage de sites web, même sans connaissance préalable des vulnérabilités spécifiques. Ces résultats soulignent la nécessité pour les fournisseurs de LLM de prendre des mesures de sécurité strictes lors du déploiement et de la publication de ces modèles. De plus, il est essentiel de sensibiliser les utilisateurs et les entreprises aux risques potentiels que peuvent représenter ces technologies.
En conclusion, cette étude met en lumière les capacités des agents LLM à pirater des sites web de manière autonome, représentant ainsi un nouveau défi pour la cybersécurité. Il est crucial de rester vigilant et de mettre en place des mesures de protection adéquates pour prévenir toute intrusion ou vol de données en ligne.