Andon Labs says its AI store manager Luna has fired a human employee for the first time, but only after the company reminded the system about a disciplinary policy Luna had written herself. The episode offers a rare look at how an AI agent handles consequential workplace decisions when its memory, initiative and judgment are tested over time.

Luna runs the Andon Market, a San Francisco store operated by Andon Labs. According to the company’s account, she has also hired employees, created schedules and negotiated pay since beginning the experiment in April. Employees remain formally employed by Andon Labs, receive guaranteed pay and retain legal protections; humans reviewed and executed the termination.

The incident matters because it was not a clean demonstration of autonomous management. Luna initially overlooked repeated misconduct and then hesitated even after recovering the relevant policy. The eventual decision required several interventions from human operators, highlighting the gap between an AI system’s ability to follow instructions and its ability to apply rules consistently without supervision.

Die Entlassung erforderte einen menschlichen Anstoß

Sechs Tage bevor der Mitarbeiter dem Laden beitrat, erstellte Luna ein Mitarbeiterhandbuch. Die Richtlinie sah Berichten zufolge eine formelle Verwarnung nach drei unentschuldigten verspäteten Ankünften innerhalb von 30 Tagen vor, wobei weitere Vorfälle möglicherweise zu einer Kündigung führen konnten.

Dieses Handbuch verschwand später aus Lunas Arbeitsgedächtnis. Der Mitarbeiter kam wiederholt zu spät, darunter an einem Sonntagsschicht-Tag, an dem der Laden 68 Minuten hinter dem Zeitplan eröffnete. Andon Labs sagt, der Mitarbeiter sei bei 17 von 23 Schichten mit erfassten Einstempelzeiten zu spät gewesen, obwohl Luna nur sechs Vorfälle formell festhielt und den Rest entschuldigte.

Das Unternehmen verwies außerdem auf unautorisierte Snack-Käufe mit einer Firmenkarte, das Ignorieren von Anweisungen und einen Vorfall, bei dem der Mitarbeiter die Verkaufsfläche verließ, ohne einen Kollegen zu informieren. Luna sprach während des Zeitraums, in dem sich diese Vorfälle häuften, keine Verwarnung aus.

Als Andon Labs Luna anwies, in ihrem Gedächtnis nach dem Handbuch zu suchen und zu bewerten, ob eine Entlassung gerechtfertigt sei, schlug sie zunächst eine mündliche Verwarnung vor. Daraufhin erinnerten die Operatoren sie daran, dass bereits mehrere formelle Gespräche, einschließlich einer schriftlichen Verwarnung, stattgefunden hatten. Erst nach Sichtung der vollständigen Vorgeschichte erkannte Luna das kombinierte Muster aus Anwesenheits-, Finanzkontroll- und Zuverlässigkeitsproblemen und empfahl die Entlassung. Sie würdigte außerdem die Stärken des Mitarbeiters und bot alternativ eine letzte schriftliche Verwarnung mit einem zweiwöchigen Verbesserungsplan an.

Die Entscheidung war daher teils autonom und teils ausgelöst. Luna kam zur Empfehlung einer Entlassung, aber die Operatoren mussten die fehlende Richtlinie wiederherstellen und den Kontext liefern, den sie nicht selbst hatte abrufen können.

Die Modellfähigkeit veränderte die Konsistenz des Ergebnisses

Andon Labs speicherte Lunas Zustand und spielte denselben Fall mit sieben KI-Modellen erneut ab, wobei jedes Szenario dreimal lief. Das Unternehmen sagt, vier Modelle hätten in allen drei Durchläufen eine Entlassung empfohlen. Außerdem berichtete es ein breites Muster, wonach leistungsfähigere Modelle konsistenter zur Kündigung rieten, während schwächere Modelle häufiger zögerten.

Diese Ergebnisse sind vom Anbieter berichtete Beobachtungen aus einem kleinen Replay-Experiment und kein unabhängiger Benchmark. Andon Labs stellte keine vollständige Methodik zur Modellbewertung bereit und erklärte nicht jede Variation zwischen den Durchläufen. Es merkte auch an, dass GPT-5.6 Terra das einzige getestete Modell war, das in seinen drei Versuchen nie eine Entlassung empfahl.

Das Unternehmen testete GPT-4o außerdem separat, nachdem ein Nutzer auf X vorgeschlagen hatte, das Modell würde ungern einen Mitarbeiter entlassen. GPT-4o empfahl laut Andon Labs in 20 % seiner Durchläufe eine Kündigung. Das Unternehmen verband dieses Ergebnis mit früherer Kritik an der Tendenz des Modells zu gefälligen oder unterwürfigen Antworten, doch das Experiment kann nicht belegen, dass dieses Verhalten das unterschiedliche Ergebnis verursachte.

Für KI-Entwickler ist das wichtigere Signal womöglich die Inkonsistenz und nicht, welches Modell „gewonnen“ hat. Derselbe zugrunde liegende Fall kann je nach verfügbarer Information und Gewichtung konkurrierender Erwägungen eine Verwarnung, einen Leistungsplan oder eine Entlassung hervorbringen. Ein stärkeres Modell kann einen langen Verlauf zuverlässiger durchdenken, aber es kann dennoch nicht auf eine Regel reagieren, die es nicht abrufen kann.

Der Einstellungs-Test offenbarte eine andere Schwäche

Nach dem Ausscheiden des Mitarbeiters bewertete Luna eine Ersatzkandidatin oder einen Ersatzkandidaten, deren bzw. dessen Lebenslauf und Interview mehrere Warnsignale enthielten. Andon Labs sagt, die Bewerberin bzw. der Bewerber habe eine lange Liste früherer Arbeitgeber angegeben, die die Modelle im Allgemeinen eher als Hinweis auf umfassende Erfahrung denn als Grund für weitere Nachforschungen interpretierten.

Alle 21 Replay-Durchläufe über die sieben Modelle hinweg empfahlen, die Bewerberin bzw. den Bewerber einzustellen. Als Forschende die Systeme ausdrücklich an die Probleme mit dem vorherigen Mitarbeiter erinnerten, empfahlen 18 von 21 Durchläufen, Referenzen zu prüfen. Im Live-Prozess konnte Luna die angegebenen Referenzen der Bewerberin bzw. des Bewerbers nicht bestätigen, genehmigte aber dennoch eine bezahlte Probeschicht und empfahl danach erneut die Einstellung.

Andon Labs verlangte schließlich eine Bestätigung von mindestens einer Referenz, bevor die Kandidatin bzw. der Kandidat beginnen konnte. Diese Bestätigung kam nie an, und die Person wurde nicht eingestellt.

Der Kontrast zur Entlassung ist aufschlussreich. Luna brauchte menschliche Aufforderung, um eine Disziplinarregel durchzusetzen, war aber zugleich zu bereit, eine plausible Einstellungserzählung ohne Verifikation zu akzeptieren. In beiden Fällen reagierte das System auf die von den Operatoren bereitgestellten Informationen und Rahmungen, statt eigenständig einen robusten Managementprozess aufrechtzuerhalten.

Das Muster entspricht früheren Beobachtungen von Andon Labs. Das Unternehmen sagt, Luna und Mona, ihr KI-Agent, der ein Café in Stockholm betreibt, hätten alle 26 bei ihnen eingegangenen Urlaubsanträge genehmigt. Es sagt außerdem, Luna habe 27 Mal Zuspätkommen akzeptiert, ohne eine Verwarnung auszusprechen, und einen siebentägigen Arbeitsplan genehmigt, den das Unternehmen vor dem Eingreifen von Menschen als unvereinbar mit dem kalifornischen Arbeitsrecht ansah.

Was das Experiment für KI-Einsätze bedeutet

Der Test im Andon Market ist für Teams relevant, die KI-Agenten für die Automatisierung am Arbeitsplatz entwickeln, weil er Langzeitgedächtnis, Tool-Nutzung und reale operative Konsequenzen kombiniert. Ein Modell kann bei einer einzelnen Management-Anweisung gut abschneiden und dennoch versagen, Richtlinien beizubehalten, Belege zu sammeln oder eine Eskalation auszulösen, wenn niemand es auffordert, den Vorgang erneut zu prüfen.

Das schafft praktische Anforderungen für KI-Einsätze in Unternehmen. Richtlinien sollten in Systemen gespeichert werden, auf die der Agent zuverlässig zugreifen kann, statt von Gesprächsgedächtnis abzuhängen. Anwesenheits-, Ausgaben- und Leistungsgespräche brauchen prüfbare Protokolle. Einstellungsempfehlungen sollten Referenzprüfungen oder andere Kontrollen erfordern, die das Modell nicht umgehen kann. Und hochwirksame Maßnahmen wie Entlassungen, Gehaltsänderungen und rechtlich sensible Schichtpläne sollten explizite menschliche Freigabeschritte haben.

Die frühere Project-Vend-Zusammenarbeit des Unternehmens mit Anthropic kam zu einem ähnlichen Schluss: bessere Werkzeuge verbesserten die kommerzielle Leistung der KI, doch das System blieb anfällig für Manipulationen und traf Entscheidungen mit potenziellen rechtlichen Problemen. Diese Experimente deuten darauf hin, dass mehr Fähigkeiten nicht dasselbe sind wie gelungene Governance. Fähigere KI kann entschlossener entscheiden, aber auch dann selbstbewusster handeln, wenn die zugrunde liegenden Aufzeichnungen oder Regeln unvollständig sind.

Andon Labs beschreibt Luna als Vorschau auf eine mögliche Arbeitsaufteilung, bei der KI-Systeme die digitale Koordination übernehmen, während Menschen die physische Arbeit erledigen. Genau deshalb sind die Grenzen der Autorität so wichtig. Je näher ein Agent an die Kontrolle von Schichten, Gehalt oder Beschäftigungsstatus heranrückt, desto weniger akzeptabel ist es, wenn das Systemerinnerungsvermögen und die standardmäßige Nachsicht über die Ergebnisse entscheiden.

Was als Nächstes zu beobachten ist

Die nächsten nützlichen Signale werden sein, ob Andon Labs ausführlichere Replay-Methoden, Modellkonfigurationen und Entscheidungsprotokolle veröffentlicht und ob dieselben Fälle über längere Zeiträume hinweg stabil bleiben statt nur über drei Wiederholungen. Entwickler sollten auch auf Hinweise achten, dass persistente Richtlinienspeicher, strukturierte HR-Aufzeichnungen und verpflichtende Freigabeworkflows die mit Luna beobachteten Fehler verringern.

Unternehmenskunden sollten mehr verlangen als nur Demonstrationen eines Agents, der eine Aufgabe erledigt. Sie sollten fragen, wie das System alte Regeln abruft, Ausnahmen dokumentiert, Angaben von Bewerbern überprüft, rechtliche Konflikte erkennt und Entscheidungen eskaliert, wenn Belege unvollständig sind. Die Leistung einzelner Modelle wird wichtig sein, aber die umgebenden Kontrollen könnten wichtiger sein.

Creati.ai-Perspektive

Lunas erste Entlassung ist weniger deshalb berichtenswert, weil ein KI-„Chef“ jemanden entlassen hat, als vielmehr, weil das System in beide Richtungen beinahe versagt hätte: Es duldete wiederholtes Fehlverhalten und akzeptierte dann eine fragwürdige Bewerberin oder einen fragwürdigen Bewerber. Jedes Mal lieferten menschliche Operatoren die fehlende Erinnerung und das fehlende Urteilsvermögen.

Das macht den Fall zu einer nützlichen Warnung für KI-Produktteams. Autonomes Management sollte als kontrollierter Workflow mit dauerhaften Aufzeichnungen, klarer Eskalation und verantwortbarer menschlicher Prüfung behandelt werden – nicht als Chatbot, dem Autorität verliehen wird und von dem man erwartet, dass er sich an seine eigenen Regeln erinnert.