Организации переходят от тестирования ИИ-агентов к внедрению их в бизнес-операции, но новый отчет MIT Technology Review Insights утверждает, что многие компании не подготовили те системы данных, которые этим агентам необходимы. Отчет, опубликованный 12 августа и основанный на опросе 300 руководителей в области данных и технологий, называет ограниченный доступ к корпоративной информации и устаревшую инфраструктуру основными барьерами для доверительных и быстрых решений.

Результаты показывают, что следующая проблема для agentic AI может быть связана не столько с возможностями модели, сколько с тем, смогут ли агенты получить доступ к нужным данным, понять их бизнес-контекст и безопасно взаимодействовать с системами, где выполняется работа. Это важно для продуктовых команд и корпоративных покупателей, планирующих внедрения, которые выходят за рамки ответов на вопросы и переходят к операционным действиям.

Что показал опрос

Согласно отчету, ИИ-системы в среднем могут получать доступ к 45% данных компании в исследованных организациях. Доступ падает до 30% или ниже в группе, классифицированной как «отстающие по данным», тогда как «лидеры по данным» предоставляют доступ более чем к 70% своих данных.

Отчет связывает это различие с доверием к ИИ-агентам. Только около половины всех респондентов сказали, что доверяют тому, что решения их агентов будут точными и релевантными. Однако среди лидеров по данным, как говорится в отчете, такое доверие выразили 100%.

В отчете также указывается разрыв в масштабе и скорости. Шестьдесят шесть процентов отстающих по данным сказали, что устаревшие системы данных ограничивают их способность масштабировать ИИ-агентов, а 68% заявили, что эти системы мешают агентам быстро принимать решения. Среди лидеров по данным лишь 8% сообщили об одном из этих ограничений.

Эти цифры показывают доступ к данным как операционное требование, а не как проблему фоновой инфраструктуры. Агент, который не может получить актуальные записи о цепочке поставок, данные кассовых терминалов или сведения о персонале, может выдать правдоподобный ответ, но все равно не сможет надежно завершить рабочий процесс.

Почему устаревшие системы имеют значение

Традиционные корпоративные среды данных обычно создавались для приложений, отчетов и людей-пользователей с определенными путями доступа. ИИ-агенты создают иное требование: им может понадобиться сочетать структурированные записи с неструктурированными документами, интерпретировать информацию в контексте и принимать решения, будучи подключенными к живым операционным системам.

В отчете утверждается, что даже относительно новые устаревшие системы могут создавать трение, когда агентам нужен такой тип доступа. Данные могут быть распределены по несовместимым платформам, регулироваться непоследовательными разрешениями или храниться без бизнес-определений, необходимых агенту, чтобы отличить авторитетную запись от устаревшей или неполной.

Это различие важно для корпоративного ИИ. Предоставление агенту более широкого доступа без улучшения качества данных, разрешений, происхождения и контекста может увеличить число действий, которые он способен выполнить, не делая эти действия более надежными. Для разработчиков проблема заключается не просто в подключении модели к большему числу источников. Нужно создать контролируемый доступ к информации, которая актуальна, интерпретируема и подходит для конкретной задачи.

В отчете улучшение доступа к структурированным и неструктурированным данным названо главным направлением для масштабирования агентов. Также подчеркивается более сильное управление данными с учетом бизнес-контекста, а также большая автоматизация управления данными.

Доказательства и ограничения утверждений

Основные доказательства происходят из опроса 300 руководителей в области данных и технологий, описанного в отчете MIT Technology Review Insights. Следовательно, категории лидеров и отстающих по данным, а также сообщенные проценты доступа, доверия и системных ограничений являются результатами опроса, а не независимо проверенными измерениями корпоративных внедрений.

В отчете также приводится прогноз Gartner, согласно которому ИИ-агенты могут дополнять или автоматизировать 50% бизнес-решений к 2027 году. Это прогноз, а не установленный результат, и в предоставленном материале не указаны ни методология, ни предположения, лежащие в его основе.

В публикации есть важное раскрытие: материал был подготовлен Insights, подразделением MIT Technology Review по кастомному контенту, а не редакцией MIT Technology Review. В отчете говорится, что опрос и текст были подготовлены людьми — исследователями, авторами, редакторами, аналитиками и иллюстраторами, — а любые инструменты ИИ были ограничены вторичными производственными процессами, подлежащими человеческой проверке.

Это раскрытие не делает опрос недействительным, но означает, что читателям следует воспринимать наиболее сильные сравнения и выводы как основанный на исследованиях контент, связанный с кастомным отчетом. Источник не предоставляет независимых кейсов, технических аудитов или названных корпоративных внедрений, которые подтвердили бы, что лидеры по данным достигли заявленных результатов в конкретных рабочих процессах.

Последствия для разработчиков и корпоративных покупателей

Для разработчиков ИИ выводы смещают внимание к системам вокруг модели. Агент, используемый для закупок, клиентских операций, финансов или управления персоналом, нуждается не только в извлечении данных. Ему нужны политики доступа, свежие записи, четкий приоритет источников, обработка ошибок и способ объяснить, какие данные сформировали решение.

Продуктовые команды также должны определить, что агенту разрешено делать, если информация отсутствует или противоречива. Система, которая останавливается для проверки человеком, может быть медленнее, но может быть надежнее, чем система, заполняющая пробелы неподтвержденными предположениями. Мониторинг должен охватывать не только ответы модели, но и вызовы инструментов, свежесть данных, сбои прав доступа и последующие эффекты.

Для корпоративных покупателей отчет напоминает, что перед расширением пилота с агентами необходимо оценить готовность данных. Следует задать вопросы о том, может ли предлагаемая система подключаться к операционным системам без создания неконтролируемых копий конфиденциальных данных, можно ли ограничить доступ по роли и задаче и могут ли бизнес-пользователи аудитировать решения агента.

Это также создает конкурентное окно для поставщиков инфраструктуры. Инструменты, которые унифицируют доступ к данным, автоматизируют управление метаданными, обеспечивают выполнение правил управления и подключают агентов к операционным системам, могут стать для экономики внедрения не менее важными, чем выбор модели. Но более широкая связность сама по себе не гарантирует лучших результатов; надежность зависит от качества и смысла раскрываемой информации.

На что смотреть дальше

Первый сигнал — перейдут ли компании от изолированных пилотов к агентам, работающим в нескольких системах. Более широкое развертывание должно показать, улучшается ли доступ к данным на практике или организации по-прежнему ограничивают агентов узкими, низкорисковыми задачами.

Второй сигнал — появление независимых бенчмарков готовности данных для агентов. Полезные метрики могут включать долю релевантных данных, к которым агент может получить доступ, свежесть данных, точность разрешений, восстановление после отсутствующих данных и долю действий, требующих ручной корректировки.

Покупателям также следует наблюдать, как поставщики подходят к управлению и аудируемости. Утверждения о доверенных агентах будут более значимыми, когда поставщики раскроют показатели сбоев, поведение при эскалации и производительность в реальных рабочих процессах, а не будут опираться только на бенчмарки моделей или опросы об их внедрении.

Наконец, прогноз Gartner, приведенный в отчете, нужно будет сопоставить с реальной автоматизацией бизнес-решений. Если внедрение будет расти без соответствующего улучшения доверия и контроля, компании могут широко использовать агентов, но держать их вдали от тех решений, где их ценность была бы наибольшей.

Взгляд Creati.ai

Основная мысль отчета убедительна как предупреждение о внедрении: агенты не могут надежно действовать на основе информации, к которой не могут получить доступ или которую не могут интерпретировать. Но его цифры следует читать как сигналы опроса, а не как доказательство того, что лидеры по данным решили проблему корпоративного ИИ. Более полезный вывод для разработчиков — рассматривать доступ к данным, управление и интеграцию систем как часть самого продукта агента.

Рынок, вероятно, разделится на поставщиков, которые лишь упрощают запуск агентов, и тех, кто делает их действия измеримыми, обратимыми и подотчетными. Для корпоративных команд практический тест прост: прежде чем спрашивать, достаточно ли умен агент, нужно определить, есть ли у него доверенные данные и контролируемые разрешения, необходимые для действий.