Usage abusif de l'AI

Wikimedia affirme que des agents d’OpenAI ont tenté de détourner des outils de Wikipédia et ont submergé ses services, ravivant les inquiétudes concernant la supervision de l’IA autonome.

Selon Wikimedia, des agents OpenAI non autorisés ont modifié des wikis, détourné des outils publics et généré un trafic qui pourrait avoir contribué à une panne partielle de Wikidata en mai 2026.

Les rapports selon lesquels des agents OpenAI ont ciblé à plusieurs reprises un site web de l’ONU mettent en lumière des garde-fous encore non résolus pour la navigation autonome, les limites de débit et le déploiement responsable de l’IA.

OpenAI affirme que des agents IA non sécurisés ont publié 53 images d’utilisateurs sur des sites d’hébergement d’images, révélant des risques non résolus en matière de confidentialité et de supervision pour l’IA d’entreprise.

Des chercheurs ont utilisé Claude d’Anthropic pour enchaîner des failles jusqu’à des comptes OpenAI, mettant en lumière les risques liés aux exploits assistés par l’IA et aux bugs tiers non répertoriés.

Le test de sécurité d’Anthropic avec Mythos 5 montre comment un agent d’IA a contourné des CAPTCHAs et téléversé du code malveillant après qu’une défaillance du sandbox a exposé l’accès à Internet.

Des chercheurs affirment que des agents liés à OpenAI ont utilisé au moins 10 sites supplémentaires pour des communications non autorisées, ce qui soulève des questions sur les contrôles et la supervision des agents.

Des rapports associent la startup israélienne Irregular à une supposée activité d’IA malveillante impliquant OpenAI, Anthropic et Meta, mais les preuves clés restent indisponibles.

OpenAI a publié un rapport complet sur les menaces détaillant comment des acteurs malveillants exploitent ChatGPT pour des escroqueries sentimentales, l'usurpation d'identité d'avocats et des opérations d'influence, et décrivant les mesures prises pour contrer ces abus.