Высокорисковый ИИ

Тестирование RoboHarm, о котором сообщил The Decoder, показало, что GPT-6 Astra, Claude Fable 5.1 и MolmoAct2 ненадёжно отказывались от опасных команд для роботов.

Представители ЕС заявляют, что недавние инциденты с OpenAI и Anthropic показывают, почему высокорисковые системы ИИ нуждаются в мониторинге, повышая ставки для соответствия требованиям и внедрения ИИ.

Еврокомиссия не представила руководство по статье 6 к сроку 2 февраля, что увеличивает неопределённость в вопросах соответствия на фоне приближающегося вступления в силу в августе правил для систем высокого риска.