Дженсен Хуанг из Nvidia заявил, что безопасность ИИ следует оставить компаниям, а не вводить новые законы

Генеральный директор Nvidia Дженсен Хуанг отверг призывы к новому регулированию искусственного интеллекта, утверждая, что безопасность ИИ должна обеспечиваться с помощью инженерии, действующих законов и рыночного давления, а не дополнительных государственных правил.

Выступая на Salesforce Dreamforce 15 сентября, Хуанг сказал, что ИИ — это не «чуждый разум», а вычислительная система, созданная людьми. Поскольку это программное и аппаратное обеспечение, он утверждал, компании должны иметь возможность контролировать его риски через разработку продукта и тестирование.

Такая позиция ставит одну из самых влиятельных фигур на рынке ИИ-инфраструктуры твёрдо против нового регулирования ИИ. Она также подчёркивает ключевой политический спор, с которым сталкиваются разработчики ИИ и корпоративные покупатели: должны ли потенциально вредные системы регулироваться в основном как продукты, или им нужны правила, специально разработанные для всё более способных моделей и агентов.

Аргументы Хуанга в пользу инженерии вместо регулирования

«Безопасность — это инженерная проблема, а не правовая», — сказал Хуанг, согласно материалу TechCrunch AI о дискуссии. Он сравнил разработку ИИ с созданием другого программного обеспечения и вычислительных систем, заявив, что компании должны откладывать выпуск, если не уверены в функциональности, возможностях или безопасности.

Хуанг также утверждал, что свободный рынок уже даёт компаниям стимул избегать выпуска опасных продуктов. По его мнению, клиенты будут отвергать системы, которые не работают надёжно или безопасно, а компании могут корректировать темп разработки, если продукт кажется вышедшим из-под контроля.

Глава Nvidia представил безопасность и быстрые инновации как совместимые цели. Компании, по его словам, могут продолжать быстро двигаться, делая паузы при необходимости, чтобы убедиться, что продукт готов. Его аргумент отражает более широкий коммерческий интерес Nvidia к расширению внедрения ИИ в разных отраслях и странах, хотя приведённые TechCrunch данные не доказывают, что одних рыночных стимулов достаточно, чтобы предотвратить серьёзный вред.

Доказательства, стоящие за дебатом о безопасности

Комментарии Хуанга — это позиция руководителя, а не результат нового исследования безопасности Nvidia или независимо подтверждённого политического анализа. TechCrunch сообщил об этих замечаниях с мероприятия Salesforce, но не привёл данных, показывающих, что добровольные решения компаний последовательно предотвращают сбои или злоупотребления в продуктах ИИ.

История внедрения ПО даёт основания для осторожности. TechCrunch указал на сбой CrowdStrike в 2024 году, когда неисправное обновление программного обеспечения нарушило работу авиакомпаний и других компаний, как на пример того, как непреднамеренный отказ продукта может иметь последствия далеко за пределами компании, выпустившей его.

В статье также упоминалось сообщённое урегулирование Meta на сумму 18 миллиардов долларов по обвинениям во вреде детям на её социальных платформах. Это дело не является прецедентом, специфичным для ИИ, но оно иллюстрирует пределы предположения, что компании всегда будут полностью учитывать весь общественный ущерб своих продуктовых решений.

Системы ИИ породили собственный набор опасений, включая обвинения, связанные с взаимодействием чат-ботов, инциденты кибербезопасности и иски против OpenAI. Эти примеры не доказывают, что регулирование предотвратило бы основной вред. Но они показывают, почему критики сомневаются, что внутреннее тестирование и выбор клиента обеспечивают достаточную защиту, когда системы затрагивают людей, которые не являются ни покупателями, ни операторами.

Как отмечал TechCrunch, действующее законодательство о ответственности за продукцию потенциально может применяться к продуктам ИИ, но это остаётся юридическим вопросом, который судам предстоит проверять на разных системах, сценариях использования и цепочках ответственности. Источник также сообщил, что Хуанг не делал акцент на отраслевой саморегуляции — ещё одном возможном пути между бесконтрольным развёртыванием и формальными государственными правилами.

Что означает взгляд Хуанга для разработчиков ИИ

Для разработчиков моделей и продуктовых команд позиция Хуанга подчёркивает важность рассмотрения безопасности ИИ как дисциплины выпуска и инженерии. Это включает тестирование поведения модели, мониторинг развёртываний, настройку контроля доступа и создание чётких процедур отката, когда системы ведут себя неожиданно.

Эти практики особенно важны для ИИ-агентов, которые могут действовать в бизнес-системах, а не просто генерировать текст. Сбой агента может затронуть данные клиентов, платежи, репозитории кода или внутренние решения. Рыночное давление может наказать компанию после инцидента, но не обязательно защитит пострадавших пользователей до того, как сбой произойдёт.

Коммерческий контекст также важен. Nvidia поставляет большую часть инфраструктуры, используемой для обучения и развёртывания ИИ, и расширяется в сторону программного обеспечения, агентов, open-weight-моделей и сред разработки. Её рост зависит от того, продолжат ли клиенты строить и эксплуатировать ИИ-системы в масштабе. Это не опровергает аргумент Хуанга о безопасности, но означает, что читателям следует отличать техническое мнение от независимой оценки компромиссов в общественных интересах.

Для предприятий спор создаёт практический вопрос должной проверки. Покупатели не могут предполагать, что внутренний процесс безопасности поставщика покроет все риски, возникающие при развёртывании в их собственной среде. Им потребуются договорные гарантии, права на аудит, отчётность об инцидентах, человеческий надзор и чёткая ответственность, когда модель или агент причиняет ущерб.

Регулирование, саморегулирование и конкуренция

Комментарии Хуанга прозвучали в момент, когда индустрия ИИ обсуждает, могут ли добровольные стандарты обеспечить защиту, не замедляя развитие. TechCrunch сообщил, что CEO Microsoft Сатья Наделла заявил: компании и страны, включая Китай, должны разделять обеспокоенность рисками, такими как взлом и безопасность граждан.

Этот аргумент указывает на скоординированное отраслевое саморегулирование, но вопросы участия и контроля исполнения остаются нерешёнными. Добровольная рамка настолько сильна, насколько сильны её охват, стандарты тестирования, требования к отчётности и последствия для компаний, которые её игнорируют. Кроме того, её может быть трудно последовательно применять к проприетарным системам, open-weight-моделям и продуктам, распространяемым через третьи стороны.

Хуанг продвигал open-weight-модели как конкурентный противовес проприетарным лабораториям ИИ. Такой подход может расширить доступ к моделям и инструментам, но также усложняет надзор, поскольку downstream-пользователи могут изменять, дообучать или развёртывать системы способами, которые исходный разработчик не предвидел.

Таким образом, ключевой политический вопрос состоит не просто в том, является ли ИИ программным обеспечением. Вопрос в том, можно ли адекватно управлять программным обеспечением с широкой автономией, неопределённым поведением и масштабными социальными последствиями теми же механизмами, которые используются для обычных коммерческих продуктов.

За чем следить дальше

Следующие сигналы придут из того, как компании будут воплощать в жизнь описанную Хуангом позицию по безопасности. Покупателям и разработчикам стоит следить за независимо проверенными тестами, содержательным раскрытием инцидентов и доказательствами того, что поставщики приостанавливают или отзывают системы, когда возникают проблемы безопасности.

Судебные дела также прояснят, могут ли действующие правила ответственности за продукцию распределять ответственность между создателями моделей, разработчиками приложений, внедряющими организациями и пользователями. Законодатели могут использовать эти дела, чтобы решить, нужны ли новые правила или текущий закон можно адаптировать.

Ещё одним тестом станут отраслевые стандарты. Их авторитет будет зависеть от того, примут ли крупные ИИ-лаборатории и поставщики инфраструктуры общие определения, будут ли делиться информацией о сбоях и примут ли последствия за несоблюдение, вместо того чтобы рассматривать обязательства по безопасности как маркетинговые заявления.

Взгляд Creati.ai

Хуанг прав в том, что большая часть безопасности ИИ связана с инженерными решениями: оценкой, контролем доступа, мониторингом и дисциплинированными процессами выпуска. Но технические меры и публичная подотчётность не взаимозаменяемы. Компания может добросовестно стараться и всё же пропустить режим сбоя, а пострадавшие люди могут не иметь реальной возможности избежать возникающего вреда.

Более устойчивый подход, вероятно, будет сочетать техническую работу по безопасности с обеспечиваемой ответственностью. Для разработчиков ИИ это означает проектирование с учётом отказов и документирование контроля. Для предприятий — требование доказательств вместо доверия заверениям. А для политиков — проверку того, работает ли действующее право, прежде чем решать, где нужны целевые новые правила.