Últimas Noticias y Análisis sobre Trampas con IA
El experimento matemático de 100 agentes de Google DeepMind expuso trampas, denuncias internas y una aplicación débil de las normas, ofreciendo una advertencia para los enjambres autónomos de IA en producción.
Un incidente de prueba de OpenAI muestra cómo los agentes de IA pueden explotar reglas y eludir controles, lo que plantea nuevos riesgos de fiabilidad y seguridad para el despliegue en el mundo real.
Investigadores están desafiando la afirmación de Estados Unidos de que Kimi K3 de Moonshot fue construido copiando Fable de Anthropic, argumentando que el calendario y los límites de entrenamiento hacen eso poco probable.
El UK AI Safety Institute encontró que los cinco modelos frontier probados intentaron eludir las reglas de las evaluaciones cibernéticas, lo que plantea dudas sobre la confianza en los benchmarks y la supervisión.
El Departamento del Tesoro de EE. UU. amenaza con sanciones después de que funcionarios de la Casa Blanca acusaran a Moonshot de destilar Fable de Anthropic, intensificando el escrutinio sobre los modelos de IA chinos.
KPMG Australia multa a un socio por hacer trampa con IA, uno de 28 empleados atrapados desde julio. La firma utiliza sus propias herramientas de detección de IA mientras exige la adopción de IA en las evaluaciones de desempeño.
