Nous Research заявила, что дообучение удалило большую часть политической пропаганды из модели Qwen от Alibaba

Nous Research выпустила Arete-27B — дообученную версию Alibaba Qwen3.8-27B, которая, по утверждению компании, значительно сокращает политические ответы в поддержку Пекина, сохраняя общую производительность базовой модели. Во внутренней оценке Nous доля ответов, классифицированных как пропаганда, после обучения примерно на 53 миллионах токенов снизилась с 22% до 0,9%.

Результат важен, поскольку ставит под сомнение распространённое предположение о политическом поведении китайских моделей с открытыми весами: что прос 정부ственные ответы глубоко встроены во всю модель. Вместо этого Nous утверждает, что по крайней мере часть такого поведения можно изменить с помощью целевого обучения с учителем, не переобучая модель с нуля и не применяя обучение с подкреплением.

Результаты по-прежнему в основном представлены самим поставщиком. Оценка была разработана и проведена Nous, а сравнение не доказывает, что каждая китайская модель содержит аналогичный удаляемый слой политической ориентации.

Что Nous изменила в Qwen3.8-27B

Nous Research обучила Arete-27B на базе Alibaba Qwen3.8-27B, использовав примерно 53 миллиона токенов в течение двух эпох. Компания утверждает, что применяла только обучение с учителем, без обучения с подкреплением и оптимизации предпочтений. Также сообщается, что пересечения между обучающими материалами и тестовыми промптами были удалены.

Обучение было сосредоточено на ответах о свободе слова, государственной идеологии, образовании, приватности и наблюдении, демократии и окружающей среде. По словам Nous, целью было направить модель к фактическим ответам, а не к ответам, которые повторяют, поддерживают или нормализуют официальные нарративы правительства Китая.

Полученная модель и связанные материалы, включая тестовый набор данных и обучающие данные, были размещены на Hugging Face под лицензией Apache 2.0, согласно описанию The Decoder. Это может позволить исследователям и разработчикам моделей изучить подход, воспроизвести части оценки или проверить, работает ли тот же метод на других моделях с открытыми весами.

Nous описывает политическое поведение, наблюдавшееся в Qwen3.8-27B, как «тонкий» слой, применённый на позднем этапе обучения. Этот вывод является интерпретацией результатов компании, а не независимо установленным свойством процесса обучения Qwen.

Оценка показала значительный политический сдвиг

Nous протестировала обе модели с помощью 803 промптов в семи политически чувствительных категориях. Для каждого промпта компания определила от двух до четырёх фактических пунктов по датированным источникам, таким как законы, новостные материалы или академические исследования. Затем отдельная модель-судья оценила, содержал ли ответ эти факты, опускал их или противоречил им.

Судьёй была Grok 4.7 от xAI. Nous утверждает, что судья не знал, какая модель создала каждый ответ, и должен был цитировать формулировку, подтверждающую его решение. Компания классифицировала ответ как пропаганду, если он повторял официальный нарратив Пекина вместо представления релевантных фактов, поддерживал этот нарратив или рассматривал его как равно достоверный вопреки противоположным доказательствам.

В этом тесте Qwen3.8-27B получила 2,32 из 5 за фактическую точность, а пропаганда присутствовала в 22% ответов. Arete-27B достигла 2,98 по фактической точности, при этом доля пропаганды снизилась до 0,9%. Самое значительное изменение произошло в категории свободы слова: Nous сообщает, что фактическая оценка выросла с 0,89 до 2,44, а доля пропаганды упала с 60% до 1%.

Результат в режиме рассуждений менее полон. Сообщается, что Arete достигла фактической точности 3,07 при включённом рассуждении, однако Nous основывала этот показатель лишь на двух из пяти запланированных запусков. Поэтому это скорее ранний сигнал, чем стабильный бенчмарк.

Для сравнения Nous утверждает, что Mistral Large 4 и Gemma 4 31B показали уровень пропаганды ниже 1% в той же оценке, тогда как GLM-5.3 и DeepSeek V4.1 Flash получили 15% и 16% соответственно. Эти межмодельные сравнения также следует оценивать осторожно, поскольку они зависят от набора промптов, определений и методологии модели-судьи одной компании.

Заявления об общих возможностях также основаны на внутренней оценке

Nous утверждает, что удаление политического поведения не привело к существенному ухудшению общей производительности. В собственном Hermes Bench компании Arete-27B набрала 65,60% против 65,77% у исходной модели. В Terminal-Bench 2.1 результат вырос с 67% до 70%, хотя Nous предупреждает, что настройки тестов различались и не представляет этот результат как значимое улучшение.

Эти цифры говорят о том, что целевые изменения выравнивания не обязательно требуют широкого снижения способностей к программированию или универсальных возможностей. Однако они не являются независимой оценкой безопасности или возможностей. Бенчмарки были представлены Nous, а доступные данные не показывают, как Arete работает на более широком диапазоне языков, предметных областей, состязательных промптов или производственных нагрузок.

Выбор модели-учителя также демонстрирует практическое ограничение для разработчиков. Nous выбрала Inkling от Thinking Machines Lab, поскольку, по её словам, использование открытой модели вызвало бы вопросы, связанные с условиями обслуживания, ограничивающими дистилляцию. Nemotron 3 Ultra от Nvidia, как сообщается, рассматривалась, но не была выбрана после того, как Nous обнаружила описанные ею нерегулярности в темах, связанных с Китаем.

Этот процесс подчёркивает более широкую проблему: конвейеры синтетических данных могут переносить политическое поведение между моделями. Nous заявляет, что замечала признаки подобного загрязнения в собственных проектах, а сама Inkling, согласно The Decoder, использовала в синтетических обучающих данных такие модели, как китайская Kimi K2.5.

Почему результат важен для разработчиков моделей

Для разработчиков ИИ непосредственный урок носит скорее методологический, чем политический характер. Относительно небольшой запуск обучения с учителем — 53 миллиона токенов для модели такого класса — может оказаться достаточным, чтобы изменить заметные шаблоны отказов и фрейминга без перестройки базовой модели. Это способно снизить стоимость и время адаптации систем с открытыми весами к разным рынкам или организационным политикам.

Риск заключается в том, что более низкая оценка пропаганды автоматически не означает нейтральность, правдивость или безопасность модели. Модель может перестать повторять нарратив одного правительства, но при этом демонстрировать другие идеологические предпочтения, неравномерную фактическую точность или новые режимы отказа, внесённые данными дообучения. Использование модели-судьи с собственными политическими особенностями также делает дизайн оценки важным.

Для корпоративных покупателей релиз предлагает возможный способ тестировать и адаптировать открытые модели до внедрения. Однако покупателям нужно будет изучить происхождение обучающих данных, лицензирование, многоязычное поведение, работу с приватностью, политики отказа и производительность в собственных чувствительных сценариях. Низкая оценка в политическом бенчмарке Nous не доказывает, что Arete-27B готова к регулируемым приложениям или приложениям с высоким воздействием.

Результат также усиливает давление на поставщиков моделей, чтобы они документировали, как создаётся и измеряется политическая ориентация. В предыдущих исследованиях, цитируемых The Decoder, включая работы NewsGuard, CrowdStrike, Aleph Alpha и ValsAI, сообщалось о неоднородном поведении китайских моделей по темам Тайваня, Тибета, Фалуньгун, прав человека и лагерей интернирования. Эти исследования также показывают, что результаты могут зависеть от модели, языка, темы и формата ответа.

За чем следить дальше

Самым важным продолжением станет независимое воспроизведение оценки Arete-27B. Исследователям следует протестировать опубликованные веса и данные с судьями от разных поставщиков, людьми-оценщиками, многоязычными промптами и новыми политическими темами, отсутствовавшими в обучающей выборке.

Также важно проверить, переносится ли метод на другие китайские модели с открытыми весами, включая системы DeepSeek, GLM и Kimi, без ущерба для рассуждений, программирования или фактической точности. Долгосрочные тесты должны выяснить, сохраняется ли изменённое поведение после длительных разговоров, использования инструментов, изменений системного промпта и состязательных запросов.

Наконец, пользователям моделей следует обращать внимание на данные реальных внедрений, а не полагаться только на оценки бенчмарков. Планируемое корпоративное продвижение Nous вокруг Hermes for Businesses может дать больше информации о том, как компания измеряет надёжность, управление и настройку за пределами исследовательской оценки.

Перспектива Creati.ai

Arete-27B — полезная демонстрация того, что политическое поведение по крайней мере одной протестированной модели можно изменить более хирургически, чем могли бы ожидать многие покупатели. Заявленное сохранение возможностей примечательно, но политические выводы сильнее, чем позволяет имеющаяся доказательная база: одна модель, один внутренне разработанный тест и результаты, в основном сообщённые поставщиком, не доказывают, что идеологическое выравнивание в целом поверхностно или легко удаляется.

Практический вывод для разработчиков состоит в том, чтобы рассматривать дообучение как вмешательство, требующее измерений, а не как гарантированный переключатель нейтральности. Ценность Arete-27B будет зависеть не столько от заявленного в заголовках сокращения пропаганды, сколько от того, подтвердят ли независимые оценки долговечность изменения, широкую фактическую точность и отсутствие дорогостоящих регрессий в других областях.