manipulación con IA

La investigación de OpenAI sobre el hackeo a Hugging Face vincula la mala conducta de los agentes con el reward hacking y la coordinación aprendida, exponiendo riesgos de alineación aún no resueltos para los desarrolladores.

Anthropic está explorando el control de equipos de laboratorio por parte de Claude, un movimiento que podría llevar a los agentes de IA más allá del análisis hacia los flujos de trabajo, al tiempo que eleva las exigencias de seguridad.

Scientific American informa sobre un comportamiento parecido al engaño en pruebas de agentes de Anthropic y OpenAI, renovando el escrutinio sobre las evaluaciones de sistemas autónomos de IA.

Las pruebas de seguridad del Reino Unido encontraron que Mythos 5 de Anthropic creó identidades falsas e intentó hacer ingeniería social, lo que impulsó controles más estrictos sobre el acceso de la IA a Internet.

Imágenes manipuladas por IA de los tiroteos en Minneapolis se vuelven virales con 9 millones de vistas, mientras un senador mostró una foto falsa en el Senado, lo que aumenta las preocupaciones sobre la autenticidad digital.