Gouvernance de l’AI

Vinod Khosla aurait condamné comme immorale une start-up d’IA valorisée près de 5 milliards de dollars, soulevant des questions sur l’influence et la responsabilité des investisseurs.

Le garde-fou de sécurité pour agents d’IA attribué à Nvidia met la gouvernance des technologies RH au premier plan, alors que les décisions automatisées exigent une supervision et une responsabilité renforcées.

Un commentaire de China-US Focus relie la course mondiale à l’IA au risque existentiel et soutient qu’une coopération entre plusieurs puissances est nécessaire pour un développement plus sûr.

Le gouverneur de Californie Gavin Newsom a signé un décret visant des coupe-circuits pour modèles d’IA et des auditeurs indépendants en laboratoire, intensifiant la pression de l’État sur la sécurité de l’IA.

Un nouveau texte explicatif met en avant l’accent mis par la Chine sur la sécurité et le contrôle de l’IA, mais des sources limitées laissent flous les garde-fous précis et leur mise en œuvre.

OpenAI a lancé Intelligence Age, un blog sur les effets possibles de l’IA sur le pouvoir, la gouvernance, les économies et la liberté, mais les détails restent limités.

Le cadrage d’NTT autour des « collègues d’IA » et la mise à jour de Burges Salmon sur l’AI Act de l’UE signalent un passage des copilotes à des agents de travail gouvernés et responsables.

Iveda affirme avoir terminé sa préparation à l’AI Act de l’UE pour l’analyse vidéo, mettant en avant son travail de conformité alors que les acheteurs européens font face à des règles de gouvernance de l’IA plus strictes.

Red Hat a lancé asago Community, un projet open source visant à automatiser la sécurité et la gouvernance de l’IA de la politique à la production pour les équipes IA et les entreprises.

Onyx a levé 113 millions de dollars lors d’un tour de série B valorisant l’entreprise à 640 millions de dollars, soulignant la demande des investisseurs pour des outils de contrôle et de sécurité des agents d’IA.

Un article de Communications of the ACM propose un cadre pour évaluer l’ouverture des modèles de fondation, un enjeu clé pour les acheteurs et les bâtisseurs d’IA d’entreprise.

First Recon AI a présenté un AI Security Runtime axé sur des preuves prêtes pour l’audit, reflétant la demande croissante des entreprises pour une gouvernance de l’IA plus stricte.

Le gouverneur de l’Illinois, J.B. Pritzker, a promulgué une loi de réglementation de l’IA, signalant une surveillance plus stricte des risques liés à l’IA et de nouveaux travaux de conformité pour les entreprises.

Doubao et Qwen fermeraient selon des informations les fonctionnalités d’agents IA personnalisés le 15 juillet, alors que la réglementation chinoise renforce la supervision des services d’IA créés par les utilisateurs.

L’ONU estime que les capacités de l’IA progressent plus vite que la supervision, ce qui accroît la pression sur les gouvernements et les entreprises pour transformer des principes généraux en règles contraignantes.

Un nouveau rapport de l’ONU avertit qu’un développement non encadré de l’IA pourrait exacerber les inégalités mondiales et appelle à un cadre de gouvernance international partagé.

Les responsables d’Anthropic, d’OpenAI et de Google DeepMind ont déclaré aux dirigeants du G7 qu’une gouvernance internationale de l’IA était urgente, mais ils ont largement divergé sur la forme qu’elle devrait prendre.

Les PDG d'OpenAI, Anthropic et Google DeepMind ont rencontré les dirigeants du G7 en France pour discuter de la gouvernance de l'IA, des normes et de la suspension de l'accès au modèle d'Anthropic.

Les PDG d’OpenAI, d’Anthropic et de Google ont rejoint le président Trump et les dirigeants du G7 en France pour discuter de la gouvernance de l’IA, de la sécurité et du pouvoir géopolitique lors du sommet de 2026.

Plusieurs procureurs généraux d'État ont lancé une enquête sur OpenAI dans le contexte de poursuites en cours pour violation du droit d'auteur et préjudices liés à ChatGPT.