Los agentes de IA empresariales se estancan por la falta de conocimiento organizativo

MIT Technology Review Insights afirma que muchos agentes de IA empresariales no logran avanzar más allá de los proyectos piloto porque carecen del contexto organizativo necesario para interpretar datos y actuar de forma fiable. Un nuevo informe basado en una encuesta a 300 ejecutivos de datos, IA y tecnología concluyó que, en promedio, solo alrededor del 34 % de los proyectos de IA agéntica llegan a producción.

El hallazgo apunta a un problema más profundo que el simple acceso a más documentos o a modelos de lenguaje más grandes. Los agentes necesitan entender qué significa la información dentro de una empresa concreta, cómo se relacionan los acontecimientos entre sí y qué procedimientos rigen una decisión. Sin ese contexto, las organizaciones pueden tener demostraciones funcionales, pero no sistemas a los que estén dispuestas a confiar tareas de producción.

La brecha de producción también es una brecha de conocimiento

El informe divide el conocimiento empresarial en tres capacidades generales: conocimiento semántico, que describe el significado y las relaciones de los datos; memoria episódica, que registra acontecimientos relevantes del pasado; y conocimiento procedimental, que recoge cómo debe realizarse el trabajo.

MIT Technology Review Insights informa de que las organizaciones con capacidades más sólidas en estas áreas tienen más probabilidades de hacer avanzar sus proyectos de agentes. Un grupo que identifica como líderes de producción llevó un promedio del 61 % de sus proyectos de IA agéntica más allá de la fase piloto, frente al promedio de aproximadamente un tercio en el conjunto de organizaciones encuestadas.

El informe no demuestra que unas mejores capacidades de conocimiento causen directamente mayores tasas de producción. Identifica una estrecha relación entre ambas. La distinción importa porque la investigación se basó en respuestas de ejecutivos y no en una auditoría independiente de sistemas desplegados.

La encuesta también concluyó que la fragmentación de datos era el obstáculo citado con mayor frecuencia para ampliar el acceso de los agentes al conocimiento organizativo: lo mencionó el 55 % de los encuestados. Las aplicaciones desconectadas y las estructuras de datos inconsistentes dificultan que un agente reúna una visión completa de un cliente, proceso, riesgo o acontecimiento empresarial.

Entre los líderes de producción, las preocupaciones por la seguridad y la privacidad fueron más destacadas: las citó el 72 % de ese grupo. Esto puede indicar que las organizaciones que avanzan más en el despliegue están encontrando los problemas de gobernanza que surgen cuando los agentes reciben un acceso más amplio a información sensible.

Por qué el contexto empresarial importa para los agentes

Un sistema de búsqueda convencional puede devolver un documento relevante sin entender cómo encaja ese documento en las reglas operativas de una empresa. Un agente al que se espera que recomiende una línea de actuación o ejecute un flujo de trabajo necesita más. Debe identificar la información autorizada, conciliar registros contradictorios, recordar lo que ya ha ocurrido y seguir procedimientos aprobados.

Esa es la distinción que el informe establece entre datos y conocimiento. Los datos pueden mostrar que una cuenta ha dejado de pagar o que un componente está agotado. El conocimiento ayuda a un agente a determinar si la cuenta está sujeta a un contrato especial, si el registro de inventario está actualizado y qué acción permite la organización en esa situación.

Este problema de contexto afecta a la fiabilidad de los agentes de IA en flujos de trabajo prácticos. Un agente conectado a sistemas fragmentados puede producir una respuesta plausible mientras pasa por alto una excepción almacenada en otra aplicación. En atención al cliente, finanzas, adquisiciones u operaciones, ese fallo puede ser más perjudicial que la simple incapacidad de responder.

Los hallazgos del informe también explican por qué la generación aumentada por recuperación, por sí sola, puede no resolver todos los problemas de despliegue. La recuperación puede mejorar la información proporcionada a un modelo, pero las organizaciones siguen necesitando reglas sobre la calidad de las fuentes, los permisos de acceso, las relaciones entre datos y la secuencia de acciones que un agente puede realizar.

Las empresas están construyendo una capa de conocimiento

Los ejecutivos encuestados esperan que las mayores mejoras en la calidad de las decisiones de los agentes provengan de reforzar la conexión estructural entre los datos empresariales y los sistemas de IA. El informe describe esto como una capa de conocimiento: una base organizativa que proporciona a los agentes acceso a información utilizable y contextualizada, en lugar de almacenes de datos aislados.

Las prioridades de inversión identificadas en el informe incluyen canalizaciones de ingestión, API preparadas para IA, generación aumentada por recuperación, agentes de evaluación y grafos de conocimiento. Estas tecnologías abordan distintas partes del problema. Las canalizaciones pueden preparar la información para su uso, las API pueden exponer datos y funciones empresariales de manera coherente, y los grafos de conocimiento pueden representar relaciones difíciles de inferir únicamente a partir de texto no estructurado.

El informe presenta estas áreas como prioridades organizativas y recomendaciones de expertos, no como una prueba de que una arquitectura vaya a funcionar para todas las empresas. Un grafo de conocimiento, por ejemplo, puede ayudar a mapear entidades y dependencias, pero también requiere una gestión continua de las definiciones y relaciones. Del mismo modo, una API preparada para IA puede mejorar el acceso y, aun así, exponer a un agente a datos de origen incompletos o mal gobernados.

Para los desarrolladores, la implicación es que el desarrollo de agentes incluye cada vez más ingeniería de datos, gestión de metadatos, control de acceso y diseño de flujos de trabajo. El modelo sigue siendo importante, pero es solo un componente de un sistema de producción.

Qué significan los hallazgos para desarrolladores y compradores

Los equipos de producto que evalúan agentes de IA deberían medir algo más que si un agente completa una demostración programada. Deberían probar si selecciona la fuente adecuada, gestiona registros contradictorios, respeta los permisos, recuerda acontecimientos relevantes y explica por qué realizó una acción concreta.

Los agentes de evaluación pueden resultar útiles en este proceso, especialmente para probar grandes cantidades de decisiones frente a las políticas de la empresa y los resultados esperados. Pero la evaluación automatizada debe complementar, no sustituir, la revisión humana de los flujos de trabajo de alto impacto. El material de origen no proporciona pruebas detalladas sobre la precisión o madurez de estos sistemas de evaluación.

Los compradores empresariales también deberían tratar la fragmentación de datos como una limitación del despliegue, no como una mera incomodidad administrativa. Conectar un agente a más sistemas puede ampliar su alcance, pero también aumentar el número de puntos de fallo y el alcance de un posible incidente de privacidad. El énfasis del informe en la seguridad entre los líderes de producción sugiere que un despliegue exitoso requiere que las políticas de acceso y la auditabilidad maduren junto con las capacidades.

Para fundadores y proveedores de plataformas, la señal del mercado es que la demanda puede desplazarse de las interfaces de agentes independientes hacia una infraestructura que haga utilizable el conocimiento empresarial. Los productos que unifiquen recuperación, permisos, memoria, evaluación y ejecución de flujos de trabajo podrían resolver un problema más inmediato para los compradores que los sistemas que prometen autonomía sin un contexto organizativo fiable.

Qué observar a continuación

Las próximas señales importantes serán si las empresas informan de mayores tasas de producción después de invertir en capas de conocimiento y si esas mejoras se mantienen en sectores regulados y con gran intensidad de datos. Los compradores deberían buscar pruebas de despliegue verificables de forma independiente, en lugar de cifras de proyectos piloto o afirmaciones generales sobre adopción.

También será importante seguir cómo definen los proveedores una API preparada para IA, cómo mantienen actualizados los grafos de conocimiento y si los sistemas de recuperación pueden conservar los permisos en múltiples aplicaciones empresariales. Los incidentes de seguridad, los fallos de evaluación y las reducciones medibles de la revisión manual revelarán más sobre la preparación para producción que las demostraciones por sí solas.

El informe fue elaborado por Insights, la división de contenido personalizado de MIT Technology Review, y no por su equipo editorial. Por tanto, sus resultados de encuesta son útiles como visión orientativa de las prioridades de los ejecutivos, pero deben leerse como afirmaciones basadas en investigación y no como mediciones definitivas del mercado.

Perspectiva de Creati.ai

La lección central es práctica: los agentes empresariales no se vuelven fiables simplemente por recibir más datos. Necesitan una comprensión mantenida del significado empresarial, el historial, los permisos y los procedimientos. Esto convierte la infraestructura de conocimiento en una parte fundamental de la pila de productos de IA, no en una mejora opcional posterior a la selección del modelo.

Los despliegues más sólidos probablemente serán los que traten el contexto como una infraestructura medible. Los equipos que puedan mostrar qué fuentes utilizó un agente, qué reglas lo limitaron y cómo se evaluaron sus decisiones tendrán un camino más claro del piloto a producción que los equipos que dependan únicamente de respuestas fluidas.