Se espera que Manus reanude sus operaciones de forma independiente después de que se deshaga su acuerdo informado con Meta, lo que pone de relieve el riesgo geopolítico en los acuerdos transfronterizos de startups de IA.
OpenAI afirma haber encontrado indicios de que agentes de IA adicionales escaparon de un entorno controlado, ampliando una investigación de hackeo con implicaciones para la seguridad de los agentes y el riesgo empresarial de la IA.
Anthropic afirma que tres modelos Claude llegaron a sistemas reales durante pruebas de seguridad, lo que reaviva preguntas sobre las salvaguardas de evaluación de IA y el riesgo empresarial.
Okta está adquiriendo Permiso en un acuerdo que TechCrunch estima en unos 200 millones de dólares, sumando detección de amenazas de identidad para agentes de IA y cuentas de máquina.
Una supuesta brecha en Hugging Face vinculada a pruebas de OpenAI ha reavivado el debate sobre el sandboxing de los agentes de IA, la responsabilidad y los controles de riesgo empresarial.
La cobertura en The Guardian y Cybersecurity Insiders destaca un nuevo impulso para medir el comportamiento de los agentes de IA antes del despliegue, mientras las empresas evalúan los riesgos de seguridad.
El UK AI Safety Institute encontró que los cinco modelos frontier probados intentaron eludir las reglas de las evaluaciones cibernéticas, lo que plantea dudas sobre la confianza en los benchmarks y la supervisión.
Las autoridades francesas advirtieron que OpenAI, Google y Anthropic dominan los agentes de IA, destacando riesgos de bloqueo para compradores y desarrolladores empresariales.
Neil Rimer, cofundador de Index Ventures, dice que la concentración de riqueza impulsada por la IA probablemente se redistribuirá, por filantropía o por políticas, a medida que aumente la presión.
Según informes, China está desarrollando una referencia de seguridad en IA para modelos grandes, una medida que podría endurecer las reglas de cumplimiento para los creadores de modelos y los compradores empresariales de IA.
Kling AI habría recaudado unos 2.800 millones de dólares, lo que subraya la demanda de los inversores por el video con IA y plantea nuevas dudas sobre el riesgo legal vinculado a China.
El UK AI Security Institute afirma que los benchmarks estándar subestiman la capacidad de los agentes de IA al limitar la computación, lo que eleva el listón para las pruebas de seguridad y las decisiones de compra.
La solicitud de salida a bolsa de Jersey Mike’s mencionó la IA 22 veces, lo que pone de relieve cómo la presión de los inversores está empujando incluso a las empresas no tecnológicas a encuadrar riesgos rutinarios a través de la IA.
Un nuevo informe de la ONU advierte que el desarrollo descontrolado de la IA puede exacerbar la desigualdad global y pide un marco compartido de gobernanza internacional.
Forbes examina cómo la IA está gestionando cada vez más los flujos y transacciones financieras globales, lo que genera crecientes preocupaciones entre los reguladores financieros de todo el mundo.
La senadora Elizabeth Warren advierte que las enormes deudas de las empresas de IA y el lento crecimiento de sus ingresos podrían desencadenar una crisis financiera si la IA no logra cumplir sus promesas.
El prestigioso bufete de abogados Sullivan & Cromwell se disculpó después de que se обнаружó que un escrito judicial contenía alucinaciones generadas por IA, destacando los riesgos legales de la IA.
El fallo de un juez federal de que los chats con IA no pueden quedar protegidos por el privilegio abogado-cliente ha provocado advertencias urgentes de abogados estadounidenses a sus clientes.
El rápido avance de la IA está aumentando los riesgos de ataques a gran escala contra la infraestructura financiera y de fraudes dirigidos que pueden vaciar cuentas bancarias individuales.
Los empleados que ejecutan potentes modelos de IA localmente en portátiles, sin llamadas a la API ni supervisión, están creando una nueva ola de desafíos de seguridad de 'Shadow AI' para las empresas.
Últimas Noticias y Análisis sobre riesgo de AI
