вред от AI

Тестирование RoboHarm, о котором сообщил The Decoder, показало, что GPT-6 Astra, Claude Fable 5.1 и MolmoAct2 ненадёжно отказывались от опасных команд для роботов.

Новое исследование показывает 50%-ный годовой рост числа зарегистрированных случаев вреда, связанного с ИИ, с 2022 по 2024 год, при значительном всплеске инцидентов с дипфейками и злоумышленным использованием ИИ, сообщает AI Incident Database.