OpenAI, Anthropic и Google DeepMind подтвердили недели переговоров о безопасности ИИ

OpenAI уже несколько недель обсуждает вопросы безопасности ИИ с конкурентами Anthropic и Google DeepMind, сообщил журналистам во вторник руководитель компании по глобальной политике Chris Lehane. Это заявление подтверждает, что ведущие компании, создающие пограничные модели, в частном порядке координируются, пока политики спорят о том, как управлять системами, становящимися все более способными.

Переговоры проходят на фоне растущего раскола в Вашингтоне. Генеральный директор Anthropic Dario Amodei призвал отрасль замедлить темпы разработки frontier ИИ, чтобы снизить катастрофические риски, тогда как президент Donald Trump и его советник по ИИ David Sacks отвергли эти опасения и заявили, что более жесткие ограничения могут ослабить Соединенные Штаты по отношению к Китаю. Для разработчиков ИИ и корпоративных покупателей этот спор может определить, как будут развиваться оценка моделей, контроль внедрения и независимый надзор на следующем этапе рынка.

Почему переговоры стали известны сейчас

Комментарии Lehane, о которых TechCrunch сообщил после более раннего освещения Bloomberg, последовали за публичным эссе Amodei, в котором он призывал к более тесному сотрудничеству между компаниями в сфере ИИ. Среди представителей отрасли, как сообщалось, поддержавших этот призыв, были CEO OpenAI Sam Altman, CEO Google DeepMind Demis Hassabis и Elon Musk из SpaceXAI.

Altman также заявил, что OpenAI будет работать с Anthropic над включением сторонних оценщиков в свои операции. Предполагалось, что эти оценщики будут следить за тем, безопасно ли разрабатываются и внедряются продвинутые модели, хотя доступные сообщения не уточняют масштаб, полномочия или операционные стандарты предлагаемых проверок.

О частных обсуждениях намекали и до подтверждения со стороны OpenAI. TechCrunch сообщал, что Altman недавно признал частные разговоры с другими лидерами ИИ. The Information отдельно сообщила, что OpenAI, Anthropic и Google DeepMind работают над созданием отраслевого органа по стандартам, хотя в этом материале говорилось, что Altman сказал сотрудникам OpenAI, что подобная инициатива, возможно, должна продвигаться без поддержки правительства США.

Таким образом, переговоры, по-видимому, предполагают нечто большее, чем неформальный контакт между руководителями. Они могут включать общие практики безопасности, внешнюю оценку и возможный механизм установления стандартов между конкурирующими лабораториями. Компании публично не представили подробной рамочной схемы, а TechCrunch сообщил, что обратился за комментариями к OpenAI, Anthropic и Google.

Координация в сфере безопасности сталкивается с антимонопольными опасениями

Сотрудничество между прямыми конкурентами создает юридическую и коммерческую сложность. Altman и другие признали, что совместные обсуждения могут вызвать антимонопольные вопросы, если регуляторы придут к выводу, что координация в сфере безопасности используется для ограничения конкуренции, замедления выпуска продуктов или раздела рынков.

В предложении Amodei содержалось узкое государственное исключение, защищающее определенную координацию, связанную с безопасностью. По данным TechCrunch, Lehane сказал, что компаниям такое исключение не нужно. Эта позиция оставляет открытым ключевой вопрос: какие меры предосторожности лаборатории могут обсуждать вместе, не переходя к поведению, которое можно интерпретировать как подавление конкуренции?

Это различие важно, поскольку компании — не просто академические исследовательские группы. OpenAI, Anthropic и Google DeepMind конкурируют за разработчиков, корпоративные контракты, вычислительную инфраструктуру и влияние на стандарты, которые могут регулировать продвинутые модели. Общий протокол тестирования мог бы повысить сопоставимость и сократить дублирующую работу, но он также мог бы дать крупнейшим лабораториям несоразмерный контроль над правилами, применяемыми ко всей отрасли.

Для компаний, строящих продукты на основе этих моделей, итог может повлиять на документацию, требования к аудиту и доступ к более рискованным возможностям. Добровольный отраслевой процесс может двигаться быстрее законодательства, но ему может не хватать последовательного исполнения или независимых полномочий.

Доказательства, заявления и политический раскол

Наиболее подтвержденный факт в сообщениях — заявление Lehane о том, что OpenAI уже несколько недель ведет переговоры о безопасности с Anthropic и Google DeepMind. Более широкий проект по созданию органа по стандартам пока основывается на сообщениях The Information, а не на публичном объявлении компаний.

Преимущества сторонней оценки также в исходных материалах описаны как перспективные, а не доказанные. Не были предоставлены независимые результаты, имена оценщиков, критерии тестирования или процесс исполнения. Упоминания о катастрофическом риске отражают позицию Amodei и других сторонников безопасности ИИ, а не установленную метрику, показывающую, что конкретная модель или внедрение достигли такого порога.

Hassabis ранее призывал США создать новый орган по стандартам, способный проверять продвинутые модели и координировать замедление всей отрасли, если риски возрастут. Это предложение контрастирует с позицией, приписываемой Trump и Sacks, которые называют предупреждения о экзистенциальных рисках преувеличенными или политически мотивированными и подчеркивают конкуренцию с Китаем.

Политический конфликт придает частным переговорам необычную значимость. Если правительство США не готово создать формальный механизм надзора, frontier-лаборатории могут попытаться построить его сами. Но частный орган, возглавляемый компаниями, которые проходят оценку, столкнется с вопросами об независимости, прозрачности и конфликтах интересов.

Что могут означать переговоры для разработчиков ИИ

Для разработчиков моделей непосредственный вывод — возможный сдвиг в сторону общих практик оценки. Единые тесты могли бы облегчить сравнение систем по опасным возможностям, отслеживание изменений между версиями моделей и определение того, когда внедрению нужен более строгий контроль. Они также могут создать новые затраты на соблюдение требований, особенно для небольших компаний, у которых нет таких команд по безопасности и инфраструктуры, как у крупнейших лабораторий.

Для корпоративных продуктовых команд независимая проверка может стать частью проверки поставщика. Покупатели со временем могут захотеть видеть подтверждение того, что модель прошла внешнее тестирование, прежде чем разрешить ей работать с конфиденциальными данными, управлять инструментами или принимать решения в регулируемых рабочих процессах. Однако подтвержденных сроков для таких требований нет, и ни одно из описанных в сообщениях соглашений пока не установило общую сертификацию.

Коммерческие ставки столь же прямые. Скоординированное замедление из-за результатов проверок безопасности может повлиять на графики релизов, доступность API и темпы, с которыми разработчики получают новые возможности. И наоборот, если компании не смогут координироваться из-за антимонопольного риска, каждая лаборатория продолжит устанавливать собственные пороги и методы оценки. Это может сохранить конкуренцию, но оставить клиентов с несогласованной информацией о рисках моделей.

Проблема выходит далеко за пределы трех компаний. Отраслевому органу по стандартам пришлось бы учитывать разработчиков открытых моделей, облачных провайдеров, независимых исследователей и компании, внедряющие модели в специализированных сценариях. Правила, созданные только крупнейшими frontier-лабораториями, могут оказаться трудными для принятия более широкой экосистемой.

На что смотреть дальше

Следующим конкретным сигналом станет то, публично ли OpenAI, Anthropic или Google DeepMind назовут участников, масштаб и систему управления переговорами о безопасности. Подробности о сторонних оценщиках — в том числе кто их назначает, что они могут проверять и будут ли публиковаться их выводы — позволили бы отличить содержательный план надзора от общего обязательства.

Также важна реакция законодателей на FRONTIER Act. Lehane сказал, что OpenAI поддерживает положение, требующее от ведущих frontier-лабораторий допускать в свои компании «независимые организации проверки». Формулировка закона, полномочия по его исполнению и определение охватываемой лаборатории могут определить, станет ли предложение реальной обязанностью или останется политической позицией.

Наконец, разработчикам стоит следить за официальным объявлением об органе по стандартам, общими бенчмарками оценки и признаками того, что в процесс включены организации за пределами трех крупнейших участников. Без таких сигналов переговоры остаются важным свидетельством координации, но еще не операционным режимом безопасности.

Взгляд Creati.ai

Значимость этой истории не только в том, что три AI-компании разговаривают. Важно то, что компании, похоже, признают необходимость общих процессов безопасности, работая на рынке, где сотрудничество может создавать юридические и конкурентные риски. Именно это напряжение будет определять, появится ли надзор в форме законодательства, добровольных стандартов или лоскутного набора корпоративных практик.

Для разработчиков и корпоративных покупателей практический вывод таков: относиться к обязательствам по безопасности как к неполным, пока они не дадут проверяемые доказательства — определенные тесты, независимый доступ, опубликованные результаты и четкие последствия за провал. Переговоры могут быть полезной отправной точкой, но их убедительность будет зависеть от того, смогут ли участники сделать надзор действительно независимым, не превращая форум по безопасности в механизм контроля доступа к рынку ИИ.