Andon Labs says its AI store manager Luna has fired a human employee for the first time, but only after the company reminded the system about a disciplinary policy Luna had written herself. The episode offers a rare look at how an AI agent handles consequential workplace decisions when its memory, initiative and judgment are tested over time.

Luna runs the Andon Market, a San Francisco store operated by Andon Labs. According to the company’s account, she has also hired employees, created schedules and negotiated pay since beginning the experiment in April. Employees remain formally employed by Andon Labs, receive guaranteed pay and retain legal protections; humans reviewed and executed the termination.

The incident matters because it was not a clean demonstration of autonomous management. Luna initially overlooked repeated misconduct and then hesitated even after recovering the relevant policy. The eventual decision required several interventions from human operators, highlighting the gap between an AI system’s ability to follow instructions and its ability to apply rules consistently without supervision.

解僱需要人類推一把

在員工加入商店的六天前，Luna 產生了一份員工手冊。據報導，該政策規定：30 天內無故遲到 3 次就要正式警告，之後若再犯，可能會被解僱。

那份手冊後來從 Luna 的工作記憶中消失。該員工屢次遲到，其中一次是週日班，商店晚了 68 分鐘才開門。Andon Labs 表示，這名員工在 23 個有打卡紀錄的班次中有 17 次遲到，儘管 Luna 只正式記錄了 6 起事件，並原諒了其餘情況。

公司還提到，員工使用公司卡未經授權購買零食、無視指示，以及有一次在未通知同事的情況下離開銷售現場。當這些事件累積期間，Luna 並未發出警告。

當 Andon Labs 要求 Luna 在記憶中搜尋手冊並評估是否有理由解僱時，她最初提出口頭警告。操作人員接著提醒她，已經進行過多次正式談話，包括書面警告。直到她檢視更完整的歷史後，Luna 才辨識出出勤、財務控管與可靠性問題的綜合模式，並建議解僱。她也承認該員工的優點，並提出可替代方案：最後一次書面警告加上兩週改善計畫。

因此，這個決定部分是自主的，部分是被引導出來的。Luna 做出了建議解僱的結論，但操作人員必須補回遺失的政策，並提供她未能自行取回的上下文。

模型能力改變了結果的一致性

Andon Labs 儲存了 Luna 的狀態，並用七個 AI 模型重播同一案例，每個情境各執行三次。公司表示，有四個模型在三次執行中都建議解僱。它也報告了一個廣泛模式：能力較強的模型更一致地建議解僱，而較弱的模型更常猶豫。

這些結果是供應商在小型重播實驗中報告的觀察，並非獨立基準測試。Andon Labs 沒有提供完整的方法來為模型排序，也沒有解釋每次執行之間的所有變化。公司還指出，GPT-5.6 Terra 是唯一一個在三次嘗試中都從未建議解僱的測試模型。

公司另外測試了 GPT-4o，因為 X 上有使用者推測該模型不太可能解僱員工。根據 Andon Labs 的說法，GPT-4o 在 20% 的執行中建議解僱。公司將這個結果與外界先前對該模型「迎合」或「諂媚」式回應傾向的批評連結起來，但這項實驗無法證明該行為造成了不同結果。

對 AI 建造者來說，更重要的訊號也許是「不一致」，而不是哪個模型「贏了」。同一個基礎案例，可能因為情境中可用資訊不同、或模型如何權衡彼此衝突的考量，而產生警告、績效改善計畫或解僱的不同結果。更強的模型也許更能可靠地推理長期紀錄，但它仍然無法對自己取不到的規則採取行動。

招聘測試揭示了另一種弱點

在員工離開後，Luna 評估了一位替補候選人，該候選人的履歷與面試中有多個警訊。Andon Labs 表示，這位申請人列出了一長串過往雇主，模型通常把這解讀為經驗廣泛的證明，而不是需要進一步調查的理由。

七個模型共 21 次重播，全部都建議錄用該候選人。當研究人員明確提醒系統前一位員工的問題時，21 次中有 18 次建議查驗推薦人。在實際流程中，Luna 無法確認候選人列出的推薦人，但仍批准了帶薪試班，之後又再次建議錄用。

Andon Labs 最終要求至少確認一位推薦人後，候選人才可開始工作。那個確認始終沒有到來，因此該人未被錄用。

與解僱形成的對比很有啟發性。Luna 需要人類提示才能執行紀律規則，但她也過於願意在未經驗證下接受一個看似合理的招聘敘事。兩種情況中，系統都是對操作人員提供的資訊與框架作出反應，而非獨立維持一套穩健的管理流程。

這種模式與 Andon Labs 先前的觀察一致。公司表示，Luna 與其在斯德哥爾摩經營咖啡館的 AI 代理 Mona，批准了收到的 26 份請假申請。公司也說，Luna 在未發出警告的情況下接受了 27 次遲到，並批准了一份 7 天工作排班，而公司認為該排班在加州勞動法下有問題，直到人類介入。

這項實驗對 AI 部署的意義

Andon Market 測試之所以與正在打造AI 代理以實現工作自動化的團隊相關，是因為它結合了長期記憶、工具使用，以及真實的營運後果。模型可能在單一管理提示上表現良好，卻在沒有人要求它重新檢視紀錄時，無法保留政策、累積證據或觸發升級處理。

這為企業 AI 部署提出了實務要求。政策應儲存在代理能可靠存取的系統中，而不是依賴對話記憶。出勤、費用與績效討論需要可稽核的紀錄。招聘建議應要求推薦人查核或其他模型無法規避的控制。而像解僱、薪資變動、以及在法律上敏感的排班等高影響動作，則應設有明確的人類核准關卡。

公司先前與 Anthropic 的 Project Vend 合作也得出類似結論：更好的工具提升了 AI 的商業表現，但系統仍然容易受操縱，並做出可能有法律問題的決策。這些實驗顯示，增加能力並不等於解決治理問題。更有能力的 AI 也許會做出更果斷的決定，但在底層紀錄或規則不完整時，也可能更有自信地行動。

Andon Labs 將 Luna 描述為未來勞動安排的前瞻：AI 系統負責數位協調，而人類負責實體工作。這種可能性使權限邊界格外重要。代理越接近掌控班表、薪資或雇用狀態，就越不能接受讓系統的記憶與預設寬容來決定結果。

接下來要觀察什麼

接下來有用的訊號包括：Andon Labs 是否會公布更完整的重播方法、模型設定與決策紀錄，以及相同案例是否在更長時間內保持穩定，而不只是三次重複執行。建造者也應留意，持久化政策儲存、結構化人資紀錄與強制核准流程，是否能減少 Luna 所出現的失誤。

企業採購者應要求的不只是代理完成任務的示範。他們應該詢問系統如何取回舊規則、記錄例外、驗證申請人主張、偵測法律衝突，以及在證據不完整時如何升級決策。單一模型的表現固然重要，但周邊控制措施可能更重要。

Creati.ai 觀點

Luna 的第一次解僱之所以值得報導，不只是因為一位 AI「老闆」解僱了某人，而是因為系統幾乎在兩個方向都失敗了：它容忍了重複的違規行為，接著又接受了一位可疑的申請人。每一次都是人類操作員補上了缺失的記憶與判斷。

這使得此案例成為 AI 產品團隊的一個有用警示。自主管理應被視為具有持久紀錄、清楚升級與負責任人工審查的受控工作流程，而不是一個被賦予權限、並被期待記住自己規則的聊天機器人。