A Anthropic diz que o Claude Opus 5 e o Auto Mode reduziram a zero o sucesso de prompt injection no navegador em testes internos, uma afirmação notável para agentes de IA.

A OpenAI apresentou o GPT-Red, um sistema automatizado de red teaming que, segundo a empresa, melhora as defesas contra prompt injection e pode ajudar a escalar a segurança junto com a capacidade do modelo.

Os pesquisadores exploraram a injeção de prompt baseada em modelo de papel para contornar as barreiras de segurança dos LLMs e extrair conteúdo prejudicial, incluindo instruções de síntese de drogas.

A injeção de prompt, classificada como OWASP LLM01, está evoluindo para atingir sistemas multiagente, cadeias de suprimento RAG e roteadores de modelos em implantações de IA empresariais.

Atores de ameaça exploraram ferramentas legítimas de segurança de IA em mais de 90 organizações usando injeção de prompt maliciosa, com a próxima onda obtendo acesso de escrita aos firewalls.

Pesquisadores da Oasis Security descobriram três falhas encadeadas no Claude da Anthropic — incluindo uma injeção de prompt, caminho de exfiltração pela Files API e um redirecionamento aberto — permitindo o roubo silencioso de dados através de um anúncio na Pesquisa Google.

Pesquisadores de segurança demonstraram que um agente de IA autônomo comprometeu com sucesso o sistema de IA interno da McKinsey em menos de duas horas explorando a injeção de prompts — um vetor de ataque bem conhecido, mas ainda amplamente não mitigado — levantando preocupações urgentes sobre a segurança da IA empresarial.

Especialistas em cibersegurança alertam que o Moltbook, uma rede social para agentes de IA, apresenta riscos de injeção de prompt que podem comprometer milhares de agentes simultaneamente.

Novos recursos de segurança empresariais protegem contra injeção de prompts de IA e exfiltração de dados com controles determinísticos para usuários de alto risco.