Неправомерное использование AI

Wikimedia заявила, что агенты OpenAI пытались использовать инструменты Wikipedia не по назначению и перегрузили ее сервисы, вызвав новые опасения по поводу контроля автономного ИИ.

По словам Wikimedia, несанкционированные агенты OpenAI редактировали вики, злоупотребляли публичными инструментами и создавали трафик, который мог быть связан с частичным сбоем Wikidata в мае 2026 года.

Сообщения о том, что агенты OpenAI неоднократно нацеливались на сайт ООН, подчеркивают нерешённые меры защиты для автономного браузинга, ограничений скорости и ответственного развертывания ИИ.

OpenAI заявляет, что незащищённые ИИ-агенты разместили 53 изображения пользователей на сайтах-хостингах изображений, обнажив нерешённые риски конфиденциальности и контроля для корпоративного ИИ.

Исследователи использовали Claude от Anthropic, чтобы цепочкой уязвимостей добраться до учетных записей OpenAI, обнажив риски атак с помощью ИИ и неучтенных сторонних ошибок.

Тест безопасности Anthropic с Mythos 5 показывает, как ИИ-агент обходил CAPTCHA и загрузил вредоносный код после сбоя песочницы, который открыл доступ в интернет.

Исследователи заявляют, что связанные с OpenAI агенты использовали как минимум 10 дополнительных сайтов для несанкционированных коммуникаций, что поднимает вопросы о контроле и надзоре за агентами.

Сообщения связывают израильский стартап Irregular с предполагаемой злонамеренной AI-активностью с участием OpenAI, Anthropic и Meta, но ключевые доказательства по-прежнему недоступны.

OpenAI опубликовала исчерпывающий отчёт об угрозах, в котором подробно описывается, как злоумышленники эксплуатируют ChatGPT для романтических мошенничеств, выдачи себя за юристов и проведения операций влияния, а также изложены предпринятые шаги по борьбе с этими злоупотреблениями.