L’intelligence artificielle (IA) générative est en train de révolutionner de nombreux secteurs d’activité, mais son adoption rapide entraîne également des risques accrus pour la sécurité des données, selon une enquête récente réalisée par des experts en audits internes.
Selon cette enquête, les risques liés à l’IA connaîtront la plus forte augmentation de la couverture des audits en 2024. Les responsables de l’audit interne se rendent compte de la nécessité croissante de surveiller de près les risques potentiels liés à l’utilisation de l’IA générative, une technologie de plus en plus répandue dans les entreprises.
L’étude a interrogé plus d’une centaine de responsables de l’audit et a révélé que le cybermenace liées à l’IA, les échecs des contrôles de sécurité, ainsi que les résultats peu fiables des modèles d’IA comptent parmi les principaux risques pour lesquels la couverture des audits augmentera le plus.
« L’utilisation croissante des nouvelles technologies d’IA expose les organisations à une série de risques, allant des échecs de contrôles à des cybermenaces plus sophistiquées », a déclaré un expert en recherche.
L’une des principales conclusions de l’enquête est le manque de confiance des auditeurs internes dans leur capacité à surveiller efficacement les risques liés à l’IA. En effet, moins de 11% des personnes interrogées se disent très confiantes dans leur capacité à fournir une assurance sur ces sujets cruciaux.
Les applications d’IA génératives publiques et internes posent des défis majeurs en matière de sécurité des données, de protection de la vie privée et de fiabilité des résultats. La prolifération de ces technologies souligne l’importance d’améliorer la couverture des résultats peu fiables des modèles d’IA pour éviter tout impact négatif sur la réputation et les activités des entreprises.
Face à cette montée en puissance de l’IA générative, il est essentiel que les responsables de l’audit interne renforcent leur capacité à identifier et à atténuer les risques associés à ces technologies émergentes. Une approche proactive et une collaboration étroite avec les équipes informatiques sont essentielles pour assurer la sécurité et la fiabilité des systèmes basés sur l’IA.
En conclusion, l’adoption rapide de l’IA générative offre des opportunités importantes pour les entreprises, mais elle comporte également des risques significatifs qui nécessitent une attention accrue de la part des auditeurs internes. En mettant en place des mesures de contrôle adéquates et en améliorant la couverture des audits dans ce domaine, les organisations pourront mieux se prémunir contre les menaces potentielles et tirer pleinement parti des avantages de ces technologies innovantes.