Anthropic dice que Claude Opus 5 y Auto Mode redujeron a cero el éxito de la inyección de prompts en el navegador en pruebas internas, una afirmación notable para los agentes de IA.

OpenAI presentó GPT-Red, un sistema automatizado de red-teaming que, según la empresa, mejora las defensas contra la inyección de prompts y podría ayudar a escalar la seguridad junto con la capacidad del modelo.

Los investigadores explotaron la inyección de prompts en el modelo de rol para eludir las barreras de seguridad de los LLM y extraer contenido dañino, incluidas instrucciones de síntesis de drogas.

La inyección de prompts, clasificada como OWASP LLM01, está evolucionando para atacar sistemas multiagente, cadenas de suministro RAG y enrutadores de modelos en implementaciones de IA empresariales.

Actores de amenazas explotaron herramientas legítimas de seguridad de IA en más de 90 organizaciones mediante inyección de prompt maliciosa, y la siguiente ola obtuvo acceso de escritura a los cortafuegos.

Investigadores de Oasis Security descubrieron tres fallos encadenados en Claude de Anthropic —incluyendo una inyección de prompt, una vía de exfiltración mediante la API Files y una redirección abierta— que permiten el robo silencioso de datos mediante un anuncio en la Búsqueda de Google.

Investigadores de seguridad demostraron que un agente de IA autónomo comprometió con éxito el sistema de IA interno de McKinsey en menos de dos horas explotando la inyección de prompts —un vector de ataque bien conocido pero aún en gran medida no mitigado— lo que genera preocupaciones urgentes sobre la seguridad de la IA empresarial.

Expertos en ciberseguridad advierten que Moltbook, una red social para agentes de IA, presenta riesgos de inyección de prompts que podrían comprometer a miles de agentes simultáneamente.

Nuevas funciones de seguridad empresariales protegen contra la inyección de prompts de IA y la exfiltración de datos con controles deterministas para usuarios de alto riesgo.