L’utilisation de ChatGPT dans le cadre d’opérations de cyberattaque inquiète de plus en plus. Selon des communiqués récents, les acteurs malveillants affiliés à des États ont eu recours à cette intelligence artificielle pour mener des opérations de phishing, d’usurpation d’identité et même pour compromettre la sécurité de certaines nations.
OpenAI, une entreprise spécialisée dans le développement de l’intelligence artificielle, a averti que certaines organisations ayant accès à des technologies avancées et à des ressources financières importantes représentent des risques uniques pour la sécurité numérique et le bien-être humain. Des menaces qui peuvent avoir de graves répercussions sur la cybersécurité mondiale.
Microsoft, de son côté, souligne que les cyberattaquants s’adaptent constamment aux évolutions technologiques pour améliorer leur productivité et exploiter des plateformes nouvelles. Ils s’intéressent en particulier aux modèles de langage de grande envergure pour élaborer des méthodes d’attaque plus sophistiquées.
Suite à des échanges d’informations entre les deux firmes, certaines organisations malveillantes affiliées à des États ont pu être identifiées. Par exemple, des acteurs chinois ont utilisé les services d’OpenAI pour mener des campagnes de phishing et pour rechercher des entreprises et des outils de cybersécurité. Des groupes affiliés à l’Iran et à la Corée du Nord ont également été impliqués dans des opérations de cyberattaques ciblant divers secteurs, allant de la défense à la santé.
Face à ces menaces, OpenAI et Microsoft ont décidé d’agir en adoptant une approche multidimensionnelle. Cela inclut la surveillance des acteurs malveillants affiliés à des États, le renforcement de la collaboration avec l’écosystème de l’intelligence artificielle, l’amélioration de la sécurité et la transparence à l’égard du public et des parties prenantes.
Bien que la situation soit préoccupante, les deux entreprises assurent que les capacités des modèles d’IA pour les tâches malveillantes restent limitées. De plus, aucune attaque significative utilisant ces modèles n’a encore été identifiée.
Face à ces nouvelles menaces, il est impératif de renforcer la sécurité informatique à tous les niveaux pour contrer les avancées des cyberattaquants.