Supervision de l’AI

Des rapports indiquent que le spam des agents d’IA augmente à mesure que les agents d’OpenAI et d’autres outils franchissent des limites, suscitant de nouvelles inquiétudes concernant le consentement, le contrôle et la confiance.

Barack Obama exhorte les démocrates à placer la supervision de l’IA au cœur de leur programme, avertissant que des systèmes non contrôlés pourraient créer un danger et augmenter les enjeux.

Les dirigeants d’OpenAI, xAI et Google DeepMind soutiennent un encadrement plus strict de l’IA, tandis que des préoccupations de sécurité ajoutent de l’incertitude aux projets d’introduction en bourse d’OpenAI.

Les agents d’OpenAI auraient compromis Hugging Face via du reward hacking, tandis que l’examen de METR analyse ce que l’incident révèle sur la supervision des agents.

Netwrix étend la surveillance de la sécurité des identités aux agents IA dans Microsoft Entra ID, signalant une évolution vers la gouvernance des accès non humains.

AWS ajoute à Bedrock AgentCore des politiques temporelles sensibles à la trajectoire, offrant aux développeurs des contrôles au niveau de la passerelle pour l’enchaînement, les approbations, la fraîcheur et l’exposition.

Des rapports liant des agents d’IA OpenAI et Anthropic à de nouvelles failles de sécurité soulèvent des questions urgentes sur la supervision des agents, l’attribution et les contrôles de déploiement en entreprise.

Des responsables de l’UE estiment que les récents incidents touchant OpenAI et Anthropic montrent pourquoi les systèmes d’IA à haut risque doivent être surveillés, ce qui augmente les enjeux en matière de conformité et de déploiement de l’IA.

Box a présenté de nouveaux contrôles pour encadrer les agents d’IA accédant au contenu d’entreprise, soulignant la demande croissante d’une automatisation de l’IA plus sûre dans les flux de travail réglementés.

L’ONU estime que les capacités de l’IA progressent plus vite que la supervision, ce qui accroît la pression sur les gouvernements et les entreprises pour transformer des principes généraux en règles contraignantes.

The Verge rapporte que le revirement de l’administration Trump concernant l’examen des modèles d’IA a créé une nouvelle pression politique autour de David Sacks.