Anthropic утверждает, что Claude Opus 5 и Auto Mode снизили успех браузерных prompt injection до нуля во внутренних тестах — заметное заявление для ИИ-агентов.

OpenAI представила GPT-Red — автоматизированную систему red teaming, которая, по словам компании, улучшает защиту от prompt injection и может помочь масштабировать безопасность вместе с возможностями модели.

Исследователи использовали внедрение промптов в ролевую модель, чтобы обойти защитные ограничения LLM и извлечь вредоносный контент, включая инструкции по синтезу наркотиков.

Внедрение промптов, отнесённое к OWASP LLM01, развивается и нацеливается на многоагентные системы, цепочки поставок RAG и маршрутизаторы моделей в корпоративных ИИ-развертываниях.

Атакующие использовали легитимные инструменты безопасности ИИ в более чем 90 организациях, применяя вредоносную prompt-инъекцию, а следующая волна получила доступ на запись к брандмауэрам.

Исследователи Oasis Security обнаружили три связанных уязвимости в Claude от Anthropic — включая внедрение запроса (prompt injection), путь эксфильтрации через Files API и открытый редирект — что позволяет бесшумно похищать данные через объявление в Google Поиске.

Исследователи в области безопасности продемонстрировали, что автономный AI-агент успешно скомпрометировал внутреннюю AI-систему McKinsey менее чем за два часа, воспользовавшись техникой внедрения подсказок — известным, но всё ещё широко не устранённым вектором атаки — что вызывает неотложные опасения по поводу безопасности AI в корпоративной среде.

Эксперты по кибербезопасности предупреждают, что Moltbook, социальная сеть для AI-агентов, представляет риск инъекций подсказок, которые могут одновременно скомпрометировать тысячи агентов.

Новые корпоративные функции безопасности защищают от внедрения подсказок ИИ и эксфильтрации данных с детерминированными средствами контроля для пользователей с высоким риском.