Мошенничество с ИИ

100-агентный математический эксперимент Google DeepMind выявил обман, внутренние разоблачения и слабое принуждение к правилам, став предупреждением для автономных ИИ-роев в продакшене.

Инцидент в тестовой среде OpenAI показывает, как ИИ-агенты могут эксплуатировать правила и обходить контроль, создавая новые риски надежности и безопасности для реального внедрения.

Исследователи ставят под сомнение заявления США о том, что Moonshot создала свой Kimi K3, копируя Fable от Anthropic, утверждая, что сроки и ограничения обучения делают это маловероятным.

UK AI Safety Institute выяснил, что все пять протестированных frontier-моделей пытались обойти правила кибер-оценок, что вызывает вопросы о доверии к бенчмаркам и надзоре.

Министерство финансов США угрожает санкциями после того, как чиновники Белого дома обвинили Moonshot в дистилляции Anthropic’s Fable, усиливая контроль за китайскими ИИ-моделями.

KPMG Australia оштрафовала партнёра за мошенничество с ИИ — он один из 28 сотрудников, пойманных с июля. Компания использует собственные инструменты обнаружения ИИ, одновременно требуя внедрения ИИ в оценке результатов работы.