Agentes de IA empresariais estão estagnados por falta de conhecimento organizacional

A MIT Technology Review Insights afirma que muitos agentes de IA empresariais não conseguem avançar além dos projetos-piloto porque não têm o contexto organizacional necessário para interpretar dados e agir de forma confiável. Um novo relatório baseado em uma pesquisa com 300 executivos de dados, IA e tecnologia constatou que, em média, apenas cerca de 34% dos projetos de IA agêntica chegam à produção.

A descoberta aponta para um problema mais profundo do que o simples acesso a mais documentos ou a modelos de linguagem maiores. Os agentes precisam entender o que as informações significam dentro de uma determinada empresa, como os eventos se relacionam e quais procedimentos orientam uma decisão. Sem esse contexto, as organizações podem ter demonstrações funcionais, mas não sistemas aos quais estejam dispostas a confiar tarefas de produção.

A lacuna de produção também é uma lacuna de conhecimento

O relatório divide o conhecimento empresarial em três capacidades amplas: conhecimento semântico, que descreve o significado e as relações nos dados; memória episódica, que registra eventos relevantes do passado; e conhecimento procedural, que captura como o trabalho deve ser realizado.

A MIT Technology Review Insights informa que organizações com capacidades mais fortes nessas áreas têm maior probabilidade de fazer seus projetos de agentes avançarem. Um grupo que o relatório identifica como líder em produção levou, em média, 61% de seus projetos de IA agêntica além da fase-piloto, em comparação com a média de aproximadamente um terço entre as organizações pesquisadas.

O relatório não estabelece que melhores capacidades de conhecimento causem diretamente taxas mais altas de produção. Ele identifica uma relação próxima entre os dois fatores. Essa distinção é importante porque a pesquisa se baseou nas respostas de executivos, e não em uma auditoria independente dos sistemas implantados.

A pesquisa também constatou que a fragmentação de dados era o obstáculo citado com mais frequência para ampliar o acesso dos agentes ao conhecimento organizacional: 55% dos entrevistados mencionaram esse fator. Aplicações desconectadas e estruturas de dados inconsistentes dificultam que um agente reúna uma visão completa de um cliente, processo, risco ou evento empresarial.

Entre os líderes em produção, as preocupações com segurança e privacidade foram mais proeminentes: 72% desse grupo as citaram. Isso pode indicar que as organizações que avançam mais na implantação estão encontrando os problemas de governança que surgem quando os agentes recebem acesso mais amplo a informações sensíveis.

Por que o contexto empresarial importa para os agentes

Um sistema de busca convencional pode retornar um documento relevante sem entender como esse documento se encaixa nas regras operacionais de uma empresa. Um agente que deve recomendar uma ação ou executar um fluxo de trabalho precisa de mais. Ele deve identificar informações autorizadas, conciliar registros conflitantes, lembrar o que já aconteceu e seguir procedimentos aprovados.

Essa é a distinção que o relatório faz entre dados e conhecimento. Os dados podem mostrar que uma conta deixou de efetuar um pagamento ou que um componente está fora de estoque. O conhecimento ajuda um agente a determinar se a conta está sujeita a um contrato especial, se o registro de inventário está atualizado e qual ação a organização permite nessa situação.

Esse problema de contexto afeta a confiabilidade dos agentes de IA em fluxos de trabalho práticos. Um agente conectado a sistemas fragmentados pode produzir uma resposta plausível enquanto ignora uma exceção armazenada em outra aplicação. Em atendimento ao cliente, finanças, compras ou operações, essa falha pode ser mais prejudicial do que simplesmente não conseguir responder.

As descobertas do relatório também explicam por que a geração aumentada por recuperação, por si só, pode não resolver todos os problemas de implantação. A recuperação pode melhorar as informações fornecidas a um modelo, mas as organizações ainda precisam de regras para qualidade das fontes, permissões de acesso, relações entre dados e a sequência de ações que um agente pode executar.

As empresas estão construindo uma camada de conhecimento

Os executivos entrevistados esperam que os maiores ganhos na qualidade das decisões dos agentes venham do fortalecimento da conexão estrutural entre os dados da empresa e os sistemas de IA. O relatório descreve isso como uma camada de conhecimento: uma base organizacional que dá aos agentes acesso a informações utilizáveis e contextualizadas, em vez de repositórios de dados isolados.

As prioridades de investimento identificadas no relatório incluem pipelines de ingestão, APIs prontas para IA, geração aumentada por recuperação, agentes de avaliação e grafos de conhecimento. Essas tecnologias abordam partes diferentes do problema. Os pipelines podem preparar as informações para uso, as APIs podem expor dados e funções empresariais de maneiras consistentes, e os grafos de conhecimento podem representar relações difíceis de inferir apenas a partir de texto não estruturado.

O relatório apresenta essas áreas como prioridades organizacionais e recomendações de especialistas, não como prova de que uma arquitetura funcionará para todas as empresas. Um grafo de conhecimento, por exemplo, pode ajudar a mapear entidades e dependências, mas também exige responsabilidade contínua pelas definições e relações. Da mesma forma, uma API pronta para IA pode melhorar o acesso e ainda assim expor um agente a dados de origem incompletos ou mal governados.

Para os desenvolvedores, a implicação é que o desenvolvimento de agentes inclui cada vez mais engenharia de dados, gestão de metadados, controle de acesso e desenho de fluxos de trabalho. O modelo continua importante, mas é apenas um componente de um sistema de produção.

O que os resultados significam para desenvolvedores e compradores

As equipes de produto que avaliam agentes de IA devem medir mais do que a capacidade de um agente concluir uma demonstração roteirizada. Elas devem testar se ele seleciona a fonte correta, lida com registros conflitantes, respeita permissões, lembra eventos relevantes e explica por que tomou determinada ação.

Os agentes de avaliação podem se tornar úteis nesse processo, especialmente para testar grandes quantidades de decisões em relação às políticas da empresa e aos resultados esperados. Mas a avaliação automatizada deve complementar, e não substituir, a revisão humana de fluxos de trabalho de alto impacto. O material de origem não fornece evidências detalhadas sobre a precisão ou a maturidade desses sistemas de avaliação.

Os compradores empresariais também devem tratar a fragmentação de dados como uma restrição de implantação, e não como um simples inconveniente administrativo. Conectar um agente a mais sistemas pode ampliar seu alcance, mas também aumentar o número de pontos de falha e a dimensão de um possível incidente de privacidade. A ênfase do relatório na segurança entre os líderes em produção sugere que uma implantação bem-sucedida exige que as políticas de acesso e a auditabilidade amadureçam junto com as capacidades.

Para fundadores e fornecedores de plataformas, o sinal do mercado é que a demanda pode se deslocar de interfaces de agentes independentes para uma infraestrutura que torne o conhecimento empresarial utilizável. Produtos que unifiquem recuperação, permissões, memória, avaliação e execução de fluxos de trabalho poderiam resolver um problema mais imediato dos compradores do que sistemas que prometem autonomia sem um contexto organizacional confiável.

O que observar a seguir

Os próximos sinais importantes serão se as empresas relatarem taxas de produção mais altas depois de investir em camadas de conhecimento e se esses ganhos se mantiverem em setores regulamentados e intensivos em dados. Os compradores devem procurar evidências de implantação verificáveis de forma independente, e não se basear na quantidade de projetos-piloto ou em alegações amplas sobre adoção.

Também será importante acompanhar como os fornecedores definem uma API pronta para IA, como mantêm os grafos de conhecimento atualizados e se os sistemas de recuperação conseguem preservar permissões em várias aplicações empresariais. Incidentes de segurança, falhas de avaliação e reduções mensuráveis na revisão manual revelarão mais sobre a prontidão para produção do que demonstrações isoladas.

O próprio relatório foi produzido pela Insights, unidade de conteúdo personalizado da MIT Technology Review, e não por sua equipe editorial. Portanto, seus resultados de pesquisa são úteis como uma visão direcional das prioridades dos executivos, mas devem ser lidos como alegações baseadas em pesquisa, e não como medições definitivas do mercado.

Perspectiva da Creati.ai

A lição central é prática: os agentes empresariais não se tornam confiáveis simplesmente por receber mais dados. Eles precisam de uma compreensão mantida sobre significado empresarial, histórico, permissões e procedimentos. Isso torna a infraestrutura de conhecimento uma parte central da pilha de produtos de IA, e não um aprimoramento opcional posterior à escolha do modelo.

As implantações mais fortes provavelmente serão aquelas que tratam o contexto como uma infraestrutura mensurável. As equipes capazes de mostrar quais fontes um agente usou, quais regras o limitaram e como suas decisões foram avaliadas terão um caminho mais claro do piloto à produção do que as equipes que dependem apenas de resultados fluentes.