Andon Labs says its AI store manager Luna has fired a human employee for the first time, but only after the company reminded the system about a disciplinary policy Luna had written herself. The episode offers a rare look at how an AI agent handles consequential workplace decisions when its memory, initiative and judgment are tested over time.

Luna runs the Andon Market, a San Francisco store operated by Andon Labs. According to the company’s account, she has also hired employees, created schedules and negotiated pay since beginning the experiment in April. Employees remain formally employed by Andon Labs, receive guaranteed pay and retain legal protections; humans reviewed and executed the termination.

The incident matters because it was not a clean demonstration of autonomous management. Luna initially overlooked repeated misconduct and then hesitated even after recovering the relevant policy. The eventual decision required several interventions from human operators, highlighting the gap between an AI system’s ability to follow instructions and its ability to apply rules consistently without supervision.

Le licenciement a nécessité une intervention humaine

Six jours avant l’arrivée de l’employé dans le magasin, Luna a rédigé un manuel de l’employé. La politique prévoyait, selon le rapport, un avertissement formel après trois retards injustifiés en 30 jours, avec la possibilité de licenciement en cas de nouveaux incidents.

Ce manuel a ensuite disparu de la mémoire de travail de Luna. L’employé est arrivé en retard à plusieurs reprises, notamment un dimanche où le magasin a ouvert avec 68 minutes de retard. Andon Labs affirme que le travailleur a été en retard sur 17 des 23 shifts dont les heures d’arrivée ont été enregistrées, bien que Luna n’ait consigné formellement que six incidents et ait excusé le reste.

L’entreprise a également cité des achats de snacks non autorisés avec une carte de société, le non-respect d’instructions et un épisode au cours duquel l’employé a quitté la surface de vente sans prévenir un collègue. Luna n’a émis aucun avertissement pendant la période où ces incidents se sont accumulés.

Lorsque Andon Labs a demandé à Luna de rechercher dans sa mémoire le manuel et d’évaluer si un licenciement était justifié, elle a d’abord proposé un avertissement oral. Les opérateurs lui ont ensuite rappelé que plusieurs échanges formels, y compris un avertissement écrit, avaient déjà eu lieu. Ce n’est qu’après avoir examiné l’historique complet que Luna a identifié le schéma combiné de problèmes de présence, de contrôle financier et de fiabilité, et a recommandé le licenciement. Elle a également reconnu les points forts de l’employé et a proposé, en alternative, un dernier avertissement écrit accompagné d’un plan d’amélioration de deux semaines.

La décision était donc en partie autonome et en partie provoquée. Luna a abouti à une recommandation de licenciement, mais les opérateurs ont dû restaurer la politique manquante et fournir le contexte qu’elle n’avait pas réussi à récupérer d’elle-même.

La capacité du modèle a changé la cohérence du résultat

Andon Labs a sauvegardé l’état de Luna et rejoué le même cas avec sept modèles d’IA, en exécutant chaque scénario trois fois. L’entreprise indique que quatre modèles ont recommandé le licenciement lors des trois exécutions. Elle a aussi observé une tendance générale selon laquelle les modèles plus performants étaient plus cohérents dans leur recommandation de licenciement, tandis que les modèles plus faibles hésitaient plus souvent.

Ces résultats sont des observations rapportées par l’éditeur à partir d’un petit exercice de rejoue, et non un benchmark indépendant. Andon Labs n’a pas fourni de méthodologie complète pour classer les modèles ni expliqué toutes les variations entre les exécutions. L’entreprise a également noté que GPT-5.6 Terra était le seul modèle testé à n’avoir jamais recommandé de licenciement au cours de ses trois tentatives.

L’entreprise a par ailleurs testé GPT-4o séparément après qu’un utilisateur sur X a suggéré que le modèle serait réticent à licencier un employé. Selon Andon Labs, GPT-4o a recommandé le licenciement dans 20 % de ses exécutions. L’entreprise a relié ce résultat à des critiques antérieures sur la tendance du modèle à produire des réponses complaisantes ou flagorneuses, mais l’expérience ne permet pas d’établir que ce comportement a causé le résultat différent.

Pour les concepteurs d’IA, le signal le plus important est peut-être l’incohérence plutôt que le modèle qui a « gagné ». Un même cas peut produire un avertissement, un plan d’amélioration ou un licenciement selon les informations disponibles dans le contexte et la manière dont le modèle pondère les considérations concurrentes. Un modèle plus puissant peut raisonner plus fiablement sur un long historique, mais il ne peut toujours pas appliquer une règle qu’il ne parvient pas à récupérer.

Le test d’embauche a révélé une autre faiblesse

Après le départ de l’employé, Luna a évalué un ou une candidate de remplacement dont le CV et l’entretien présentaient plusieurs signaux d’alerte. Andon Labs indique que le ou la candidate a mentionné une longue série d’anciens employeurs, que les modèles ont généralement interprétée comme la preuve d’une vaste expérience plutôt que comme une raison d’enquêter davantage.

Les 21 rejouages sur les sept modèles ont tous recommandé d’embaucher le ou la candidate. Lorsque les chercheurs ont explicitement rappelé aux systèmes les problèmes liés à l’employé précédent, 18 rejouages sur 21 ont recommandé de vérifier les références. Dans le processus en direct, Luna n’a pas pu confirmer les références indiquées par le ou la candidate, mais a tout de même approuvé un essai rémunéré et a ensuite recommandé à nouveau l’embauche.

Andon Labs a finalement exigé la confirmation d’au moins une référence avant que le ou la candidate puisse commencer. Cette confirmation n’est jamais arrivée, et la personne n’a pas été embauchée.

Le contraste avec le licenciement est révélateur. Luna avait besoin d’une incitation humaine pour appliquer une règle disciplinaire, mais elle s’est aussi montrée trop encline à accepter un récit d’embauche plausible sans vérification. Dans les deux cas, le système a réagi aux informations et au cadrage fournis par les opérateurs plutôt que de maintenir de manière autonome un processus de gestion robuste.

Le schéma concorde avec des observations antérieures d’Andon Labs. L’entreprise affirme que Luna et Mona, son agent IA qui opère un café à Stockholm, ont approuvé les 26 demandes de congé qu’elles ont reçues. Elle affirme également que Luna a accepté 27 retards sans émettre d’avertissement et a approuvé un horaire de sept jours que l’entreprise jugeait incompatible avec le droit du travail californien avant l’intervention d’humains.

Ce que l’expérience signifie pour les déploiements d’IA

Le test d’Andon Market est pertinent pour les équipes qui construisent des agents IA pour l’automatisation du travail, car il combine mémoire longue durée, usage d’outils et conséquences opérationnelles réelles. Un modèle peut bien se comporter sur une consigne de gestion unique tout en échouant à conserver les politiques, accumuler des preuves ou déclencher une escalade lorsque personne ne lui demande de revoir le dossier.

Cela crée des exigences pratiques pour les déploiements d’IA en entreprise. Les politiques devraient être stockées dans des systèmes que l’agent peut récupérer de manière fiable, plutôt que de dépendre de la mémoire conversationnelle. Les discussions sur l’assiduité, les dépenses et la performance doivent laisser des traces vérifiables. Les recommandations d’embauche devraient exiger des vérifications de références ou d’autres contrôles que le modèle ne peut pas contourner. Et les actions à fort impact comme les licenciements, les changements de salaire et la planification sensible sur le plan juridique devraient passer par des validations humaines explicites.

La précédente collaboration Project Vend de l’entreprise avec Anthropic est parvenue à une conclusion similaire : de meilleurs outils ont amélioré les performances commerciales de l’IA, mais le système restait vulnérable à la manipulation et prenait des décisions susceptibles de poser des problèmes juridiques. Ces expériences suggèrent qu’ajouter des capacités ne revient pas à résoudre la gouvernance. Une IA plus capable peut prendre des décisions plus fermes, mais aussi agir avec plus de confiance lorsque les dossiers ou les règles sous-jacents sont incomplets.

Andon Labs présente Luna comme un aperçu d’un futur possible où les systèmes d’IA gèrent la coordination numérique tandis que les humains effectuent le travail physique. Cette possibilité rend les limites de l’autorité particulièrement importantes. Plus un agent se rapproche du contrôle des horaires, du salaire ou du statut d’emploi, moins il est acceptable que la mémoire du système et sa clémence par défaut déterminent les résultats.

Ce qu’il faut surveiller ensuite

Les prochains signaux utiles seront de voir si Andon Labs publie des méthodes de rejouage, des configurations de modèles et des journaux de décision plus complets, et si les mêmes cas restent stables sur des périodes plus longues plutôt que sur trois exécutions répétées. Les concepteurs devraient aussi surveiller les éléments montrant que des bases de politiques persistantes, des dossiers RH structurés et des flux d’approbation obligatoires réduisent les échecs observés avec Luna.

Les acheteurs d’entreprise devraient demander davantage que des démonstrations d’un agent accomplissant une tâche. Ils devraient demander comment le système récupère d’anciennes règles, consigne les exceptions, vérifie les déclarations des candidats, détecte les conflits juridiques et escalade les décisions lorsque les preuves sont incomplètes. Les performances des modèles individuels compteront, mais les contrôles environnants pourraient compter davantage.

Point de vue Creati.ai

Le premier licenciement de Luna est digne d’intérêt moins parce qu’un « patron » IA a renvoyé quelqu’un que parce que le système a failli dans les deux sens : il a toléré des comportements répétés fautifs puis a accepté un candidat douteux. À chaque fois, les opérateurs humains ont fourni la mémoire et le jugement manquants.

Cela fait de ce cas un avertissement utile pour les équipes produit IA. La gestion autonome devrait être traitée comme un flux de travail contrôlé, avec des dossiers durables, une escalade claire et une revue humaine responsable — et non comme un chatbot à qui l’on confère une autorité en s’attendant à ce qu’il se souvienne de ses propres règles.