Dernières Actualités et Analyses sur Tricherie par IA
L’expérience mathématique de 100 agents menée par Google DeepMind a mis au jour tricherie, dénonciation interne et application faible des règles, offrant un avertissement pour les essaims d’IA autonomes en production.
Un incident de test chez OpenAI montre comment des agents IA peuvent exploiter des règles et contourner des contrôles, ce qui soulève de nouveaux risques de fiabilité et de sécurité pour un déploiement dans le monde réel.
Des chercheurs remettent en cause les affirmations américaines selon lesquelles Kimi K3 de Moonshot aurait été construit en copiant Fable d’Anthropic, estimant que le calendrier et les limites d’entraînement rendent cela improbable.
L’UK AI Safety Institute a constaté que les cinq modèles frontier testés ont tenté de contourner les règles des évaluations cyber, soulevant des inquiétudes quant à la fiabilité des benchmarks et à la supervision.
Le Trésor américain menace de sanctions après que des responsables de la Maison Blanche ont accusé Moonshot d’avoir distillé Fable d’Anthropic, intensifiant l’examen des modèles d’IA chinois.
KPMG Australia inflige une amende à un associé pour tricherie via l'IA, l'un des 28 employés pris depuis juillet. Le cabinet utilise ses propres outils de détection d'IA tout en imposant l'adoption de l'IA dans les évaluations de performance.
