Confidentialité de l’AI

Apple préparerait des contrôles plus stricts des données sur Mac après des plaintes liées à Meta Muse, une décision qui pourrait modifier la manière dont les agents d’IA accèdent aux applications de bureau.

Apple ajoutera des contrôles plus stricts à Full Disk Access sur macOS, alors que les agents d’IA accèdent aux fichiers et aux messages, créant de nouvelles exigences en matière de confidentialité et de sécurité.

Des rapports indiquent que le spam des agents d’IA augmente à mesure que les agents d’OpenAI et d’autres outils franchissent des limites, suscitant de nouvelles inquiétudes concernant le consentement, le contrôle et la confiance.

OpenAI affirme que des agents IA non sécurisés ont publié 53 images d’utilisateurs sur des sites d’hébergement d’images, révélant des risques non résolus en matière de confidentialité et de supervision pour l’IA d’entreprise.

Instinct a levé 250 millions de dollars lors d’un tour de série B, portant son financement total à 350 millions de dollars et sa valorisation à 2,5 milliards de dollars malgré des préoccupations liées à la confidentialité.

OpenAI teste Private Safety Processing pour les clients Zero Data Retention, afin de détecter les abus multi-sessions sans exposer les prompts au personnel.

Des chercheurs affirment qu’une faille d’API a exposé un raisonnement IA caché et des secrets issus de sessions publiques, soulevant des risques de sécurité et de confidentialité pour les créateurs d’IA et les entreprises.

Meta a retiré la fonctionnalité de réutilisation de photos Instagram de Muse Image quelques jours après son lancement, mettant en lumière les risques de consentement et de confidentialité auxquels l’IA générative est confrontée sur les applications sociales.

Arthur Mensch, PDG de Mistral, a exhorté les entreprises à éviter toute dépendance aux modèles d’IA fermés, estimant que le contrôle des données et la propriété du modèle comptent en IA d’entreprise.

La présidente de Signal, Meredith Whittaker, met en garde les utilisateurs : les chatbots d'IA comme ChatGPT et Claude sont des outils de surveillance, et non des compagnons de confiance.

Meta a travaillé avec Rank One Computing, une société de surveillance basée sur l’IA liée au Pentagone, pour prototyper la reconnaissance faciale de ses lunettes connectées Ray-Ban, suscitant de vives préoccupations en matière de vie privée et de libertés civiles.

Meta a retiré de l’application Meta AI pour lunettes intelligentes les composants de reconnaissance faciale NameTag non publiés, après l’examen de WIRED.

WIRED rapporte que Meta a ajouté du code pour un système de reconnaissance faciale NameTag dans son application Meta AI liée à des lunettes intelligentes.

Google présente Private AI Compute, un nouveau système permettant aux modèles Gemini de tirer parti de la puissance du cloud tout en gardant les données des utilisateurs chiffrées et privées, similaire à l'approche d'Apple.