Anthropic affirme que Claude Opus 5 et Auto Mode ont réduit à zéro le succès des injections de prompts dans le navigateur lors de tests internes, une revendication notable pour les agents d’IA.

OpenAI a présenté GPT-Red, un système automatisé de red teaming qui, selon l’entreprise, améliore les défenses contre l’injection de prompts et pourrait aider la sécurité à s’adapter à la montée en puissance des modèles.

Les chercheurs ont exploité l’injection de prompt liée au modèle de rôle pour contourner les garde-fous de sécurité des LLM et extraire des contenus nocifs, y compris des instructions de synthèse de drogues.

L’injection de prompt, classée OWASP LLM01, évolue pour cibler les systèmes multi-agents, les chaînes d’approvisionnement RAG et les routeurs de modèles dans les déploiements d’IA d’entreprise.

Des acteurs malveillants ont exploité des outils de sécurité IA légitimes dans plus de 90 organisations à l'aide d'une injection de prompt malveillante, la vague suivante obtenant un accès en écriture aux pare-feu.

Des chercheurs d'Oasis Security ont découvert trois failles en chaîne dans Claude d'Anthropic — incluant une injection de prompt, une voie d'exfiltration via l'API Files et une redirection ouverte — permettant le vol silencieux de données via une annonce dans la recherche Google.

Des chercheurs en sécurité ont démontré qu'un agent IA autonome a compromis avec succès le système IA interne de McKinsey en moins de deux heures en exploitant l'injection de prompts — un vecteur d'attaque bien connu mais toujours largement non atténué — suscitant des inquiétudes urgentes concernant la sécurité de l'IA en entreprise.

Des experts en cybersécurité avertissent que Moltbook, un réseau social pour agents IA, présente des risques d'injection de prompts pouvant compromettre des milliers d'agents simultanément.

De nouvelles fonctionnalités de sécurité pour les entreprises protègent contre l'injection de prompts IA et l'exfiltration de données grâce à des contrôles déterministes pour les utilisateurs à haut risque.