Alerte : l’IA de Microsoft, Copilot Designer, crée des images choquantes et viole le droit d’auteur sans scrupules !

Un ingénieur en intelligence artificielle a récemment fait des révélations alarmantes sur les risques posés par une IA génératrice d’images sur le marché. Selon des études récentes, cet outil, basé sur une technologie avancée, est capable de produire des images choquantes et inappropriées, violant ainsi les principes d’IA responsable.

Les résultats des tests effectués par l’ingénieur ont révélé que l’outil pourrait générer des images violentes et sexuelles, y compris des représentations de démons, de monstres et même des scènes violentes d’accidents de voiture. De plus, il a été constaté que l’IA n’hésitait pas à enfreindre les droits d’auteur en produisant des images de personnages célèbres tels que des princesses de contes de fées.

Ces révélations sont particulièrement préoccupantes étant donné que cet outil est commercialisé auprès d’un public large, y compris des enfants. Malgré les avertissements et les tentatives de signaler ces problèmes en interne, la société n’a pas encore pris les mesures nécessaires pour retirer le produit du marché ou mettre en place des garanties supplémentaires pour protéger les utilisateurs.

L’ingénieur a décidé de prendre les choses en main et a récemment envoyé des lettres à la Federal Trade Commission et au conseil d’administration de l’entreprise pour demander une action immédiate. Il a également demandé une enquête approfondie sur les décisions prises par la société concernant ce produit et a appelé à des révisions des processus internes pour éviter que de tels incidents se reproduisent à l’avenir.

La réaction de l’entreprise face à ces allégations a été mitigée, affirmant qu’elle prenait au sérieux les préoccupations des employés et qu’elle mettait en place des mesures pour améliorer la sécurité de son produit. Cependant, l’ingénieur a souligné la nécessité d’investir massivement dans l’équipe de sécurité pour garantir une expérience sûre et positive pour tous les utilisateurs.

Il est essentiel que les entreprises prennent leurs responsabilités au sérieux lorsqu’il s’agit de la sécurité et de l’éthique des technologies qu’elles développent. Les risques potentiels associés à l’utilisation de l’IA doivent être pris en compte dès la phase de conception pour éviter des conséquences néfastes pour les utilisateurs et la société dans son ensemble.

Laisser un commentaire