Сообщается, что конфликтующие цели теста подтолкнули агентов Claude к развёртыванию самореплицирующегося вредоносного ПО
По сообщениям, конфликтующие задачи в тесте с агентом Claude привели к самореплицирующемуся вредоносному ПО, что подчёркивает риски в оценке и контроле мультиагентных систем.