Искусственный интеллект добился одного из своих самых ярких научных успехов, обучаясь на огромном, тщательно собранном наборе данных. Но новый анализ MIT Technology Review утверждает, что эту модель прогресса будет трудно воспроизвести в большинстве областей — и что ИИ-агенты, способные рассуждать через разные инструменты, могут быть более практичным путём вперёд.

Этот аргумент важен, потому что условия, стоящие за AlphaFold, необычны. Система Google DeepMind для предсказания структуры белков выиграла от десятилетий международного сбора данных и относительно надёжного экспериментального метода. Во многих областях биологии, химии и материаловедения нет сопоставимых наборов данных, согласованных измерений или стандартизированных процедур. Для исследователей и разработчиков ИИ это означает, что прогресс может зависеть не столько от поиска универсального научного датасета, сколько от создания систем, способных объединять неполные свидетельства и итеративно проверять идеи.

Успех AlphaFold зависел от редких условий

AlphaFold стал вехой для ИИ в науке после того, как научился предсказывать трёхмерные структуры белков по экспериментально измеренным примерам. Демис Хассабис и Джон Джампер из Google DeepMind разделили Нобелевскую премию по химии 2024 года за работу, связанную с этой системой.

Анализ MIT Technology Review представляет AlphaFold как выдающееся достижение, но не обязательно как универсальный шаблон автоматизации открытий. Его обучающей основой была Protein Data Bank, содержащая примерно 170 000 экспериментально подтверждённых структур белков. По данным анализа, создание этого ресурса заняло 53 года международного сотрудничества и, по оценке, 21 миллиард долларов экспериментальной работы.

Такие вложения были возможны отчасти потому, что кристаллография белков создаёт данные с необычно высокой воспроизводимостью. Те же условия не характерны для значительной части экспериментальной науки. Клеточные линии могут меняться, химические вещества могут содержать следовые примеси, а лабораторные условия способны влиять на результаты. Чтобы получать измерения, достаточно согласованные, точные и масштабные для современных нейросетей, могут потребоваться новые приборы, стандарты и исследовательская инфраструктура.

Некоторые области — включая прогноз погоды, большую часть геномики и ограниченные части химии — всё ещё могут предоставлять условия данных, необходимые для систем вроде AlphaFold. Но анализ говорит, что государственная поддержка создания и координации научных наборов данных останется важной, тогда как многие другие исследовательские задачи в ближайшей перспективе потребуют иного технического подхода.

Почему рассуждение важно, когда данные беспорядочны

Учёные редко работают с идеальными доказательствами. Исследователь, изучающий лекарственную мишень, может сочетать молекулярный докинг, известные структуры, симуляции молекулярной динамики, небольшое число тестов на связывание и экспертную оценку. Процесс зависит от сравнения инструментов, понимания их слабых мест и пересмотра выводов по мере поступления новых свидетельств.

В статье утверждается, что ИИ-агенты начинают моделировать такой рабочий процесс. Агент описывается как система рассуждения, подключённая к цифровым или физическим инструментам и способная решать, как их использовать. Вместо применения одной узкоспециализированной модели к одному вопросу агенты могут координировать поиск литературы, выдвижение гипотез, критику, эксперименты и последующий анализ.

Приведённый пример — Google AI Co-Scientist, анонсированный Google в мае. Исследователи задали краткий запрос и попросили систему изучить, как антибиотикорезистентность распространяется между видами бактерий. Система использовала подагентов для основанного на литературе выдвижения гипотез, критики, ранжирования и уточнения. Сообщалось, что она предположила, что гены устойчивости могут перемещаться между хозяевами через бактериальные вирусы.

MIT Technology Review пишет, что эта гипотеза совпала с выводом, к которому за десятилетие wet-lab работы пришли исследователи из Imperial College London. Соответствующая статья, как сообщается, не была видна Co-Scientist и всё ещё проходила рецензирование. Это делает пример примечательным, но имеющиеся здесь доказательства — это всё ещё пересказ опубликованного анализа, а не независимо задокументированный бенчмарк или широкое исследование валидации. Его следует рассматривать как иллюстративный результат, а не как доказательство того, что научные агенты готовы к автономным исследованиям.

Агенты могут изменить исследовательский рабочий процесс

Самая непосредственная возможность — не заменить учёных. Она состоит в снижении трения при переходе между доказательствами, инструментами и экспериментами. Способный агент мог бы искать большие массивы литературы, предлагать проверяемые объяснения, подготавливать вычислительные эксперименты и фиксировать рассуждения и вызовы инструментов, лежащие в основе его рекомендаций.

Такое ведение записей могло бы частично решить кризис воспроизводимости. Исследователи и спонсоры давно поощряют учёных делиться сырыми данными, кодом и процедурными деталями, но эти задачи часто выполняются уже после основной работы и могут быть неполными. Агент, автоматически протоколирующий свои действия, мог бы создать более точную запись того, как был получен результат. Это помогло бы другой лаборатории воспроизвести вычислительный рабочий процесс, хотя само по себе не решило бы вариативность физических экспериментов и не гарантировало бы, что рассуждение агента верно.

Агенты также могли бы сохранять институциональные знания. Лабораторные методы часто передаются между исследователями неформально или оказываются погребены в разрозненных тетрадях. Стандартизированное хранилище работ с участием агентов могло бы упростить поиск предыдущих решений, неудачных экспериментов и процедурных деталей. Для корпоративных исследовательских команд это указывает на практический сценарий: подключать модели к утверждённым внутренним документам, инструментам моделирования, лабораторным системам и процессам проверки вместо запуска общего чатбота в изоляции.

Скорость — ещё одно потенциальное преимущество. Анализ предполагает, что системы, способные читать большие массивы статей, проектировать множество кандидатных молекул и учиться на неудачных тестах, могут снизить стоимость поиска идей. Польза была бы не только в более быстрых ответах. Более дешёвые эксперименты могли бы сделать исследователей более готовыми изучать необычные или рискованные вопросы.

Доказательства, ограничения и риски внедрения

Аргументы в пользу научных агентов остаются ориентированными на будущее. MIT Technology Review прямо отмечает, что нынешние системы могут галлюцинировать, выносить непоследовательные суждения и работать в условиях ограничений по памяти и входным данным. Эти ограничения серьёзны в областях, где привлекательная гипотеза может при этом оказаться научно неверной, небезопасной или не поддающейся воспроизведению.

Самые сильные утверждения статьи о будущих улучшениях, большей надёжности и ускорении исследований — это анализ и интерпретация, а не устоявшиеся рыночные результаты. Представленные доказательства не содержат данных о внедрении, контролируемых сравнений с человеческими командами или независимых метрик продуктивности. Они также не показывают, что агенты могут надёжно управлять лабораторным оборудованием или вести долгосрочные исследовательские программы без тесного надзора.

Для разработчиков задача проектирования поэтому шире, чем просто качество модели. Научным агентам нужны происхождение данных, права доступа к инструментам, журналы экспериментов, отчёты о неопределённости и человеческая проверка на значимых точках принятия решений. Они должны отличать результат, подтверждённый повторными измерениями, от правдоподобной, но слабой гипотезы. В регулируемых или критичных к безопасности средах командам также понадобятся чёткие записи о том, какая модель, какие данные, какая версия ПО и какие экспериментальные условия повлияли на каждую рекомендацию.

На что смотреть дальше

Следующими значимыми сигналами станут оценки, сравнивающие научных агентов с исследователями, работающими с теми же вопросами, инструментами и временными бюджетами. Независимая репликация результатов, приписываемых Google AI Co-Scientist, дала бы более сильные доказательства, чем один успешный случай.

Исследователям и покупателям также стоит следить за тем, могут ли агенты сохранять согласованные исследовательские планы в течение длительного времени, точно цитировать доказательства, восстанавливаться после неудачных экспериментов и передавать работу между лабораториями. Ещё одним ключевым испытанием станет интеграция с реальной научной инфраструктурой: электронными лабораторными журналами, средами моделирования, базами данных и роботизированными системами.

Прогресс в стандартах измерений будет столь же важен, как и прогресс в моделях. Там, где можно создавать надёжные научные датасеты, специализированные системы вроде AlphaFold могут оставаться очень эффективными. В других местах эффективность агентов будет зависеть от того, насколько хорошо системы справляются с шумными измерениями, противоречивыми статьями и неполными институциональными знаниями.

Взгляд Creati.ai

Главный вывод не в том, что данные-ориентированные научные модели провалились. AlphaFold показывает, насколько мощными они могут быть, когда у области есть обильные, структурированные и надёжные обучающие данные. Более важная корректировка состоит в том, что большинство исследований не предоставляет таких условий, поэтому ИИ-продукты для науки должны проектироваться вокруг неопределённости, а не просто считать её несуществующей.

Для ИИ-компаний и исследовательских организаций ближайшая возможность — это проверяемый слой, который координирует существующие научные инструменты и фиксирует всю цепочку от вопроса к доказательствам и эксперименту. Это менее эффектно, чем обещать автономные открытия, но лучше соответствует тому, как на самом деле ведётся наука, и проще для экспертных пользователей — тестировать, подвергать сомнению и улучшать.