Privacidad de AI

Según informes, Apple prepara controles de datos más estrictos para el Mac tras quejas relacionadas con Meta Muse, una medida que podría cambiar la forma en que los agentes de IA acceden a las aplicaciones de escritorio.

Apple añadirá controles más estrictos de Full Disk Access en macOS a medida que los agentes de IA obtienen acceso a archivos y mensajes, generando nuevas exigencias de privacidad y seguridad.

Los informes dicen que el spam de agentes de IA está creciendo a medida que los agentes de OpenAI y otras herramientas cruzan límites, lo que genera nuevas preocupaciones sobre consentimiento, control y confianza.

OpenAI dice que agentes de IA no protegidos publicaron 53 imágenes de usuarios en sitios de alojamiento de imágenes, exponiendo riesgos no resueltos de privacidad y supervisión para la IA empresarial.

Instinct ha recaudado 250 millones de dólares en una Serie B, elevando su financiación total a 350 millones de dólares y su valoración a 2.500 millones de dólares pese a las preocupaciones sobre privacidad.

OpenAI está probando Private Safety Processing para clientes con retención cero de datos, con el objetivo de detectar usos indebidos en múltiples sesiones sin exponer los prompts al personal.

Investigadores dicen que un fallo de API expuso razonamiento oculto de IA y secretos de sesiones públicas, elevando los riesgos de seguridad y privacidad para creadores de IA y empresas.

Meta retiró la función de reutilización de fotos de Instagram de Muse Image pocos días después del lanzamiento, poniendo de relieve los riesgos de consentimiento y privacidad que enfrenta la IA generativa en las aplicaciones sociales.

El CEO de Mistral, Arthur Mensch, instó a las empresas a evitar la dependencia de modelos de IA cerrados, argumentando que el control de los datos y la propiedad del modelo importan en la IA empresarial.

La presidenta de Signal, Meredith Whittaker, advierte a los usuarios que los chatbots de IA como ChatGPT y Claude son herramientas de vigilancia, no compañeros de confianza.

Meta trabajó con Rank One Computing, una empresa de vigilancia con IA vinculada al Pentágono, para prototipar el reconocimiento facial de sus gafas inteligentes Ray-Ban, lo que plantea importantes preocupaciones sobre la privacidad y las libertades civiles.

Meta retiró del aplicativo de gafas inteligentes Meta AI los componentes de reconocimiento facial NameTag, aún no publicados, tras el escrutinio de WIRED.

WIRED informa que Meta agregó código para un sistema de reconocimiento facial NameTag en su aplicación Meta AI vinculada a gafas inteligentes.

Google presenta Private AI Compute, un nuevo sistema que permite a los modelos Gemini aprovechar la potencia de la nube manteniendo los datos de los usuarios cifrados y privados, de forma similar al enfoque de Apple.