Dernières Actualités et Analyses sur IA à haut risque
Les tests RoboHarm rapportés par The Decoder ont montré que GPT-6 Astra, Claude Fable 5.1 et MolmoAct2 n’étaient pas fiables pour refuser des commandes dangereuses destinées à des robots.
Des responsables de l’UE estiment que les récents incidents touchant OpenAI et Anthropic montrent pourquoi les systèmes d’IA à haut risque doivent être surveillés, ce qui augmente les enjeux en matière de conformité et de déploiement de l’IA.
La Commission européenne n'a pas fourni les orientations prévues par l'article 6 avant la date limite du 2 février, créant une incertitude sur la conformité alors que l'application des règles sur les IA à haut risque approche en août.
