Новый рубеж: «Thinking Machines» Миры Мурати и философия совместного ИИ
В условиях, где доминирует гонка к AGI и полностью автономным системам, недавний поворот Миры Мурати, бывшего технического директора OpenAI, знаменует собой значительный сдвиг в траектории развития искусственного интеллекта. Её новое предприятие «Thinking Machines» стремится выйти за рамки преобладающей в отрасли одержимости автоматизацией, направленной на замену человека. Вместо этого Мурати выступает за концепцию «совместного ИИ» (collaborative AI) — модель, которая явно оставляет человека в цикле управления (human-in-the-loop), используя уникальные сильные стороны как биологического мышления, так и машинной обработки.
Для Creati.ai это событие представляет собой критическую точку перегиба. Последние два года индустрия ИИ потратила на исследование пределов больших языковых моделей (LLM) и их потенциала для автономного выполнения сложных задач. Однако, поскольку эти модели сталкиваются с проблемами надежности, галлюцинаций и рассуждений в критически важных вопросах, рынок начинает задаваться вопросом, является ли полная автономия действительно оптимальным путем для корпоративного и личного использования. Инициатива Мурати служит своевременным опровержением нарратива «автоматизация прежде всего», отдавая приоритет синергии, а не замещению.
Переосмысление модели взаимодействия с ИИ: человек в цикле
В основе Thinking Machines лежит фундаментальный принцип проектирования: методология «человек в цикле» (Human-in-the-Loop, HITL). Исторически HITL использовался в основном как метод разметки данных или тонкой настройки для повышения точности модели. Однако Мурати, по-видимому, позиционирует его как основное архитектурное требование для будущих программных систем.
В интервью Wired Мурати заявила, что цель её новой организации — создать интеллект, который не стремится работать в изоляции. Вместо этого компания фокусируется на инструментах, которые активно взаимодействуют с операторами-людьми, рассматривая ИИ как агента, которому для эффективного выполнения высокоценной работы требуются контекст, руководство и проверка со стороны пользователя.
Этот сдвиг отличается от тенденции «агентных рабочих процессов» (agentic workflows), которые часто подчеркивают способность ИИ действовать самостоятельно с минимальным контролем. Оставляя человека в цикле управления, Thinking Machines признает, что определенные задачи — особенно те, которые связаны с нюансами, этикой и сложным решением проблем — требуют уровня биологического надзора, который текущие статистические модели воспроизвести не могут.
Сравнительный анализ: автоматизация против совместного ИИ
Чтобы понять масштаб этого сдвига, полезно классифицировать различия между преобладающим направлением в отрасли и моделью, предложенной Thinking Machines. Следующая таблица иллюстрирует расхождение между традиционной автономной автоматизацией и совместным подходом.
| Характеристика | Автономная автоматизация | Совместный ИИ (Thinking Machines) |
|---|---|---|
| Структура управления | Замкнутый цикл; минимальный ввод со стороны человека | Разомкнутый цикл; постоянная интеграция обратной связи |
| Основная цель | Прямая замена задач / Сокращение затрат | Увеличение возможностей / Смягчение ошибок |
| Модель доверия | Зависимость от системы; высокий порог доверия | Человек в цикле; проверенный результат |
| Обработка ошибок | Требуется сбой/сброс всей системы | Вмешательство человека и исправление в реальном времени |
| Пригодность для использования | Повторяющиеся операции с низкими рисками | Сложные рабочие процессы принятия решений с высокими рисками |
Эта таблица подчеркивает, что, хотя автономные агенты эффективны для выполнения задач низкой сложности и большого объема, они с трудом справляются со сценариями, где «цена ошибки» высока. Фокус Мурати на совместном ИИ указывает на целевой рынок в отраслях, где точность имеет первостепенное значение, таких как исследования, стратегическое планирование и сложная разработка программного обеспечения.
Архитектурная логика совместных систем
Техническая реализация «мыслящей машины» (Thinking Machine) требует большего, чем просто чат-интерфейс. Она требует архитектуры, в которой ИИ может сделать паузу, задать вопрос пользователю и представить варианты для проверки человеком. Это включает в себя создание моделей, которые «осознают неопределенность» — систем, которые знают, когда они не знают ответа, и имеют дизайн интерфейса, позволяющий эффективно передать эту двусмысленность пользователю-человеку.
С точки зрения Creati.ai, это сложная эволюция текущей парадигмы LLM. Большинство современных систем обучены давать ответ независимо от того, является ли этот ответ фактически обоснованным. Совместная модель, напротив, была бы обучена отдавать приоритет «правильности через сотрудничество», а не «генеративной беглости». Это изменение требует значительных достижений в том, как мы выравниваем модели с помощью обучения с подкреплением на основе отзывов людей (RLHF), смещая акцент с подражания человеческому стилю на содействие человеческой работе.
Преодоление проблем метода «человек в цикле»
Хотя философия, лежащая в основе Thinking Machines, убедительна, она не лишена существенных препятствий. Внедрение системы «человек в цикле» создает потенциальные трения в пользовательском опыте.
- Когнитивная нагрузка: Если система запрашивает ввод слишком часто, она рискует стать источником отвлечения, а не повышения продуктивности. Балансировка между «полезным ИИ» и «прерывающим ИИ» станет определяющей UX-задачей для команды Мурати.
- Масштабируемость: Сила ИИ заключается в его способности работать в масштабе. Вводя человеческое «узкое место», система ограничивается скоростью и пропускной способностью оператора-человека.
- Задержка: Сотрудничество в реальном времени требует взаимодействий с низкой задержкой. Обеспечение того, чтобы система оставалась отзывчивой во время ожидания проверки человеком, является технической задачей, которая потребует надежной инженерии.
Несмотря на эти проблемы, индустрия показала, что пользователи часто готовы пожертвовать скоростью ради надежности. По мере того как ИИ переходит из разряда новинки в разряд необходимого бизнес-инструмента, модель «человек в цикле» может стать золотым стандартом для корпоративного внедрения, где ответственность и точность не подлежат обсуждению.
Будущая траектория Thinking Machines
Мира Мурати, покинувшая OpenAI, чтобы основать Thinking Machines, — это не просто громкий переход; это сигнал того, что индустрия ИИ вступает в фазу «после хайпа». Мы отходим от эпохи грубого масштабирования — когда ключом к прогрессу было простое увеличение вычислительных мощностей и данных, подаваемых в модель, — и вступаем в эпоху структурного совершенствования.
Фокус на совместном ИИ предполагает будущее, в котором искусственный интеллект функционирует скорее как специализированный второй пилот (co-pilot), а не как замена профессиональным ролям. Он расширяет возможности оператора-человека, повышая его потенциал, а не просто оптимизируя задачи.
По мере того как Thinking Machines начинает разрабатывать дорожную карту своего продукта, индустрия будет внимательно следить за этим. Если Мурати успешно реализует это видение, оно может перезагрузить ожидания относительно того, что на самом деле должна делать «базовая модель». Задача заключается в создании программного обеспечения, которое достаточно интеллектуально, чтобы помогать, но при этом достаточно скромно, чтобы слушать — баланс, который оставался неуловимым на текущем, быстро развивающемся рынке ИИ. На данный момент нарратив сместился с «Заменит ли нас ИИ?» на «Как мы будем работать с ИИ?», и это разговор жизненно важной важности для будущего взаимодействия человека и компьютера.
