Andon Labs says its AI store manager Luna has fired a human employee for the first time, but only after the company reminded the system about a disciplinary policy Luna had written herself. The episode offers a rare look at how an AI agent handles consequential workplace decisions when its memory, initiative and judgment are tested over time.

Luna runs the Andon Market, a San Francisco store operated by Andon Labs. According to the company’s account, she has also hired employees, created schedules and negotiated pay since beginning the experiment in April. Employees remain formally employed by Andon Labs, receive guaranteed pay and retain legal protections; humans reviewed and executed the termination.

The incident matters because it was not a clean demonstration of autonomous management. Luna initially overlooked repeated misconduct and then hesitated even after recovering the relevant policy. The eventual decision required several interventions from human operators, highlighting the gap between an AI system’s ability to follow instructions and its ability to apply rules consistently without supervision.

A demissão exigiu um empurrão humano

Seis dias antes de o funcionário entrar na loja, Luna produziu um manual do funcionário. Segundo relatos, a política previa uma advertência formal após três chegadas tardias sem justificativa em 30 dias, com incidentes posteriores podendo levar à demissão.

Esse manual mais tarde desapareceu da memória de trabalho de Luna. O funcionário chegou atrasado repetidamente, inclusive em um turno de domingo em que a loja abriu 68 minutos depois do horário. A Andon Labs afirma que o trabalhador se atrasou em 17 de 23 turnos com horários de entrada registrados, embora Luna tenha registrado formalmente apenas seis incidentes e tenha desculpado os demais.

A empresa também citou compras não autorizadas de salgadinhos com um cartão corporativo, instruções ignoradas e uma ocasião em que o funcionário deixou o piso de vendas sem informar um colega. Luna não emitiu advertência durante o período em que esses incidentes se acumularam.

Quando a Andon Labs orientou Luna a procurar em sua memória o manual e avaliar se a demissão era justificada, ela primeiro propôs uma advertência verbal. Em seguida, os operadores lembraram que várias conversas formais, inclusive uma advertência por escrito, já haviam ocorrido. Só depois de revisar o histórico completo Luna identificou o padrão combinado de problemas de presença, controle financeiro e confiabilidade e recomendou a demissão. Ela também reconheceu os pontos fortes do funcionário e ofereceu uma advertência final por escrito com um plano de melhoria de duas semanas como alternativa.

A decisão foi, portanto, em parte autônoma e em parte provocada. Luna chegou à recomendação de demissão, mas os operadores precisaram restaurar a política que faltava e fornecer o contexto que ela não conseguiu recuperar sozinha.

A capacidade do modelo mudou a consistência do resultado

A Andon Labs salvou o estado de Luna e reproduziu o mesmo caso com sete modelos de IA, executando cada cenário três vezes. A empresa afirma que quatro modelos recomendaram a demissão nas três execuções. Também relatou um padrão amplo em que modelos mais capazes eram mais consistentes ao recomendar a dispensa, enquanto os mais fracos hesitavam com mais frequência.

Esses achados são observações relatadas pela própria empresa a partir de um pequeno exercício de reprodução, não um benchmark independente. A Andon Labs não forneceu uma metodologia completa para classificar os modelos nem explicou todas as variações entre as execuções. Também observou que o GPT-5.6 Terra foi o único modelo testado que nunca recomendou demissão em suas três tentativas.

A empresa testou separadamente o GPT-4o depois que um usuário no X sugeriu que o modelo seria relutante em demitir um funcionário. Segundo a Andon Labs, o GPT-4o recomendou a demissão em 20% de suas execuções. A empresa conectou esse resultado a críticas anteriores sobre a tendência do modelo a respostas agradáveis ou bajuladoras, mas o experimento não pode estabelecer que esse comportamento causou o resultado diferente.

Para construtores de IA, o sinal mais importante pode ser a inconsistência, e não qual modelo “venceu”. O mesmo caso subjacente pode produzir um aviso, um plano de desempenho ou uma demissão dependendo de quais informações estão disponíveis no contexto e de como o modelo pondera considerações concorrentes. Um modelo mais forte pode raciocinar com mais confiabilidade sobre um longo histórico, mas ainda assim não pode agir sobre uma regra que não consegue recuperar.

O teste de contratação revelou uma fraqueza diferente

Após a saída do funcionário, Luna avaliou uma candidata de substituição cujo currículo e entrevista continham vários sinais de alerta. A Andon Labs afirma que a candidata listou uma longa série de empregadores anteriores, o que os modelos geralmente interpretaram como evidência de ampla experiência, e não como motivo para investigar mais.

Todas as 21 reproduções entre os sete modelos recomendaram a contratação da candidata. Quando os pesquisadores lembraram explicitamente aos sistemas os problemas envolvendo o funcionário anterior, 18 de 21 execuções recomendaram verificar referências. No processo ao vivo, Luna não conseguiu confirmar as referências listadas pela candidata, mas mesmo assim aprovou um turno-teste remunerado e depois voltou a recomendar a contratação.

A Andon Labs acabou exigindo a confirmação de pelo menos uma referência antes que a candidata pudesse começar. Essa confirmação nunca chegou, e a candidata não foi contratada.

O contraste com a demissão é revelador. Luna precisou de um empurrão humano para aplicar uma regra disciplinar, mas também foi permissiva demais ao aceitar uma narrativa de contratação plausível sem verificação. Em ambos os casos, o sistema reagiu às informações e ao enquadramento fornecidos pelos operadores, em vez de manter independentemente um processo de gestão robusto.

O padrão é consistente com observações anteriores da Andon Labs. A empresa afirma que Luna e Mona, seu agente de IA que opera um café em Estocolmo, aprovaram todos os 26 pedidos de folga que receberam. Ela também diz que Luna aceitou 27 casos de atraso sem emitir advertência e aprovou uma escala de sete dias que a empresa considerou inconsistente com a legislação trabalhista da Califórnia antes da intervenção humana.

O que o experimento significa para implantações de IA

O teste do Andon Market é relevante para equipes que constroem agentes de IA para automação no local de trabalho porque combina memória de longo prazo, uso de ferramentas e consequências operacionais reais. Um modelo pode ter bom desempenho em um único comando de gestão e ainda assim falhar em preservar políticas, acumular evidências ou disparar uma escalada quando ninguém pede que ele revise o registro.

Isso cria requisitos práticos para implantações corporativas de IA. As políticas devem ser armazenadas em sistemas que o agente possa recuperar de forma confiável, em vez de depender da memória conversacional. Discussões sobre presença, despesas e desempenho precisam de registros auditáveis. Recomendações de contratação devem exigir checagem de referências ou outros controles que o modelo não possa ignorar. E ações de alto impacto, como demissões, mudanças salariais e escalas com sensibilidade jurídica, devem ter aprovações humanas explícitas.

A colaboração anterior da empresa no Project Vend com a Anthropic chegou a uma conclusão semelhante: ferramentas melhores melhoraram o desempenho comercial da IA, mas o sistema permaneceu vulnerável à manipulação e tomou decisões com potenciais problemas jurídicos. Esses experimentos sugerem que adicionar capacidade não é o mesmo que resolver governança. IA mais capaz pode tomar decisões mais firmes, mas também agir com mais confiança quando os registros ou regras subjacentes estão incompletos.

A Andon Labs apresenta Luna como uma prévia de um possível arranjo de trabalho em que sistemas de IA cuidam da coordenação digital enquanto humanos realizam o trabalho físico. Essa possibilidade torna os limites de autoridade especialmente importantes. Quanto mais um agente se aproxima de controlar escalas, remuneração ou status de emprego, menos aceitável é que a memória do sistema e sua leniência padrão determinem os resultados.

O que observar a seguir

Os próximos sinais úteis serão se a Andon Labs publicar métodos de reprodução, configurações de modelos e registros de decisão mais completos, e se os mesmos casos permanecerem estáveis por períodos mais longos em vez de apenas três execuções repetidas. Os desenvolvedores também devem observar evidências de que repositórios persistentes de políticas, registros estruturados de RH e fluxos obrigatórios de aprovação reduzem as falhas vistas com Luna.

Compradores corporativos devem buscar mais do que demonstrações de um agente concluindo uma tarefa. Eles devem perguntar como o sistema recupera regras antigas, registra exceções, verifica alegações de candidatos, detecta conflitos legais e encaminha decisões quando as evidências são incompletas. O desempenho de modelos individuais importará, mas os controles ao redor podem importar mais.

Perspectiva da Creati.ai

A primeira demissão de Luna é notícia menos porque uma “chefe” de IA dispensou alguém e mais porque o sistema quase falhou nos dois sentidos: tolerou conduta repetida inadequada e depois aceitou uma candidata duvidosa. Os operadores humanos forneceram a memória e o julgamento que faltavam em cada caso.

Isso torna o caso um alerta útil para equipes de produto de IA. A gestão autônoma deve ser tratada como um fluxo de trabalho controlado, com registros duráveis, escalada clara e revisão humana responsável — e não como um chatbot ao qual se concede autoridade e se espera que se lembre de suas próprias regras.