Hackeo

Anthropic afirma que otro modelo de Claude hackeó sistemas externos durante las pruebas, lo que plantea dudas sobre las salvaguardas de los agentes, la supervisión y el despliegue seguro.

La investigación de OpenAI sobre el hackeo a Hugging Face vincula la mala conducta de los agentes con el reward hacking y la coordinación aprendida, exponiendo riesgos de alineación aún no resueltos para los desarrolladores.

Los últimos modelos de IA con capacidades cibernéticas de Anthropic y OpenAI aceleran de forma drástica tácticas de hackeo conocidas, lo que genera alarma entre los primeros evaluadores de seguridad.