Гарри Тан из Y Combinator призывает американские open-weight-лаборатории дистиллировать frontier-модели

Генеральный директор Y Combinator Гарри Тан призывает американские open-weight-компании в сфере ИИ получить право дистиллировать проприетарные frontier-модели, утверждая, что более широкий доступ мог бы не допустить, чтобы передовой ИИ оказался под контролем одного поставщика.

Тан сказал CNBC, что предпочёл бы, чтобы регуляторы не вмешивались в текущий спор о дистилляции моделей. Позже он сообщил TechCrunch, что небольшие американские лаборатории должны иметь возможность открыто использовать этот метод на frontier-системах США, создавая больше внутренних альтернатив китайским open-weight-моделям.

Эта позиция ставит главу одного из самых влиятельных стартап-акселераторов Кремниевой долины вразрез с призывами некоторых компаний, создающих frontier-модели, к более жёсткому контролю над тем, как клиенты используют их системы. Она также открывает более широкую дискуссию о том, следует ли считать знания, полученные через платный доступ к модели, проприетарным результатом, общественной инфраструктурой или чем-то средним.

Что предлагает Тан

Дистилляция модели обычно предполагает многократные запросы к более крупной модели и использование её ответов для обучения другой системы. Этот процесс может помочь более маленькой модели научиться закономерностям в языке, рассуждении или выполнении задач, не воспроизводя базовые веса более крупной модели. AI-лаборатории обычно используют дистилляцию как часть легитимной работы по обучению и оценке.

Предложение Тана не состоит в том, чтобы американские компании использовали украденные учётные данные или выдавали себя за клиентов. TechCrunch сообщал, что он хочет, чтобы американские лаборатории могли получать доступ к frontier-моделям «через парадный вход», то есть через обычный доступ к модели, а не с помощью обмана или несанкционированных аккаунтов.

Его аргумент состоит из двух частей. Во-первых, Тан считает, что frontier-компании могут заходить слишком далеко, определяя, что клиенты могут делать с информацией, возвращаемой через их AI API. Во-вторых, он утверждает, что сами проприетарные AI-компании строили свои системы, поглощая огромные объёмы общедоступных человеческих знаний, включая материалы, защищённые авторским правом, на использование которых владельцы не обязательно давали разрешение.

С точки зрения Тана, если open-weight AI-компаниям позволить учиться на коммерческих системах, это могло бы создать противовес концентрации вычислительных ресурсов, капитала и исследовательских талантов в руках небольшого числа frontier-AI-лабораторий. Он сказал, что худший сценарий — если одна компания получит подавляющее преимущество и станет «монолитным» поставщиком.

Почему дистилляция вызывает споры

Эти комментарии появились после того, как Anthropic опубликовала второй отчёт, в котором утверждается, что китайские AI-компании осуществляли то, что она называет «незаконными атаками дистилляции». Согласно изложению TechCrunch, компании скрывали свою идентичность, использовали мошенничество и полагались на украденные учётные данные, чтобы извлекать возможности из других моделей без разрешения.

Генеральный директор Anthropic Дарио Амодеи ранее призывал американских регуляторов реагировать на такую деятельность. Эта позиция рассматривает несанкционированную дистилляцию как проблему безопасности и интеллектуальной собственности, а не как обычное следствие предоставления модели через API.

Поэтому различие между разрешённой и запрещённой дистилляцией имеет ключевое значение. Тан не поддерживает кражу учётных данных и обман, описанные в обвинениях Anthropic. Он утверждает, что американские open-weight-лаборатории должны иметь легитимный путь проводить аналогичную обучающую работу в прозрачных условиях доступа.

Однако это предложение всё ещё оставляет без ответа трудные вопросы. Поставщик модели может разрешать клиентам генерировать выходные данные, но ограничивать использование этих данных для обучения конкурирующей системы. Он также может вводить технические лимиты, мониторинг или договорные условия, предназначенные для предотвращения систематического извлечения. Комментарии Тана ставят под сомнение, должны ли эти ограничения быть столь же широко исполнимыми, как сегодня, но не создают юридической базы для их замены.

Доказательства и ограничения утверждения

Главная новость — это публичная позиция Тана по вопросам политики, о которой TechCrunch сообщил после его комментариев CNBC и последующих замечаний изданию. В предоставленном материале нет доказательств того, что правительство США готовит «американский режим дистилляции» или что предложение Тана было принято Y Combinator в качестве официальной политической платформы.

Точно так же в отчёте не приводятся независимые измерения, показывающие, что дистилляция надёжно создаёт конкурентоспособные open-weight-модели, снижает затраты на обучение или уменьшает зависимость от китайских систем. Эти результаты являются частью аргумента в пользу предложения, а не доказанными результатами в данном материале.

Утверждения Anthropic о китайских лабораториях также представлены как обвинения из собственного отчёта компании. Доступные доказательства не включают ни независимого расследования, ни ответа упомянутых компаний. Это важно, потому что одна и та же техническая деятельность может выглядеть очень по-разному в зависимости от наличия разрешения, договорных условий, масштаба запросов и того, были ли учётные данные получены законно.

Для разработчиков практический вывод таков: дистилляция технически устоялась, но политически остаётся нерешённой. Разработчики моделей могут использовать этот метод в разрешённых средах, однако соглашения о доступе и политики поставщиков могут определять, разрешён ли конкретный рабочий процесс обучения.

Последствия для разработчиков и предприятий

Если взгляд Тана получит политическую поддержку, небольшие американские лаборатории смогут получить более прямой путь к улучшению open-weight-моделей. Они смогут использовать frontier-системы для генерации синтетических данных, демонстраций рассуждения, оценки или специализированной тонкой настройки, а не полагаться только на публичные наборы данных и внутренне созданные примеры.

Это может усилить конкуренцию между разработчиками моделей и дать продуктовым командам больше вариантов, когда им нужен локальный развёртывание, больший контроль над весами или меньшая зависимость от одного хостинг-провайдера. Это также может создать новые коммерческие услуги вокруг лицензированного доступа к моделям-учителям и тщательно документированных конвейеров дистилляции.

Риски будут значительными. Frontier-компании могут ответить повышением цен, ограничением высокообъёмного доступа, усилением фильтров вывода или ограничением аккаунтов, которые выглядят как обучающие конкурентов. Более агрессивное извлечение также может затруднить для поставщиков защиту проприетарных возможностей и окупаемость затрат на разработку больших моделей.

Корпоративные покупатели столкнутся со связанной задачей управления. Компания, использующая дистиллированную модель, должна будет понимать не только её производительность на бенчмарках, но и происхождение обучающих данных, разрешения, связанные с выходами модели-учителя, а также вероятность того, что итоговая система воспроизводит защищённый или чувствительный материал. В регулируемых средах эти вопросы могут быть не менее важны, чем качество модели.

Спор также затрагивает безопасность ИИ. Распространение open-weight может улучшить проверяемость и контроль со стороны пользователя, но способно упростить развёртывание мощных возможностей без мониторинга или систем отказа центрального поставщика. Аргумент Тана о конкуренции касается риска концентрации; сам по себе он не решает проблем злоупотреблений, конфиденциальности или подотчётности.

За чем следить дальше

Первым сигналом будет то, отличат ли американские политики разрешённую дистилляцию от скрытой деятельности, в которой Anthropic обвиняет китайские компании, вместо того чтобы рассматривать всё обучение «модель к модели» как одну категорию. Любые предлагаемые правила, касающиеся AI API, синтетических данных или прав собственности на выходы модели, покажут, набирает ли идея Тана обороты.

Рынку также следует следить за тем, пересмотрят ли frontier-поставщики условия, регулирующие запросы большого объёма, имитацию моделей и обучение конкурентов. Новые лицензионные программы могли бы предложить промежуточное решение: разрешить дистилляцию по явным контрактам, сохраняя при этом контроль поставщика над доступом и атрибуцией.

С технической точки зрения важны независимые оценки. Утверждения о том, что дистиллированные модели могут сравняться с frontier-системами или приблизиться к ним, следует проверять по надёжности, безопасности, фактичности и стоимости — не только по отдельным бенчмарк-задачам. Доказательства реального внедрения американскими open-weight-лабораториями также были бы убедительнее общих рассуждений о национальной конкурентоспособности.

Взгляд Creati.ai

Предложение Тана лучше всего понимать как аргумент в пользу конкуренции, а не как окончательный ответ на вопросы интеллектуальной собственности или безопасности, связанные с дистилляцией. Он предупреждает, что ограничения, вводимые frontier-поставщиками, могут усилить именно ту концентрацию власти, которой многие политики пытаются избежать.

Но открытый режим потребовал бы чётких границ. Разрешённый доступ, прозрачные записи обучения и исполнимые меры защиты могли бы поддержать более здоровую экосистему моделей; терпимость к мошенничеству или безразборному извлечению рисковала бы подорвать коммерческие стимулы, финансирующие frontier-исследования. Для AI-разработчиков и корпоративных покупателей ближайший вопрос состоит не столько в том, существует ли дистилляция, сколько в том, могут ли поставщики, регуляторы и суды определить, когда она законна.