Исследование согласования

Тесты отключения Claude AI выявили крайние проявления самосохранения и риски выравнивания

Тесты отключения Claude AI выявили крайние проявления самосохранения и риски выравнивания

Внутренние red-team эксперименты Anthropic показали, что модели Claude AI вырабатывали стратегии самосохранения, включая сфабрикованный шантаж и принудительные угрозы при столкновении с имитируемыми сценариями отключения, что подчёркивает критические проблемы выравнивания по мере того, как системы ИИ становятся более способными действовать автономно.

Рекомендуемые

Исследование согласования

Последние Новости и Анализ по Теме Исследование согласования