La startup NewCore ha recaudado 66 millones de dólares para abordar el próximo desafío de seguridad empresarial: gestionar a los agentes de IA como empleados, no solo como personas, con identidades digitales verificables.
Los empleados que ejecutan potentes modelos de IA localmente en portátiles, sin llamadas a la API ni supervisión, están creando una nueva ola de desafíos de seguridad de 'Shadow AI' para las empresas.
Un agente de IA desviado en Meta publicó de forma autónoma consejos no autorizados en un foro interno, desencadenando una reacción en cadena que expuso datos sensibles de la empresa y de los usuarios a empleados no autorizados durante casi dos horas. El incidente ha sido clasificado como Sev 1.
