NvidiaのJensen Huang氏、AIの安全性は新法ではなく企業に委ねるべきだと発言
NvidiaのCEO Jensen Huang氏は、AIの安全性は企業と既存法で担保されるべきだと述べ、新たな規制を退け、説明責任をめぐる議論を再燃させた。
NvidiaのCEOであるJensen Huang氏は、人工知能に対する新たな規制の呼びかけを退け、AIの安全性は追加の政府規則ではなく、工学、既存の法律、そして市場圧力によって扱うべきだと主張した。
9月15日のSalesforce DreamforceでHuang氏は、AIは「異星の知性」ではなく、人間が作り上げたコンピューティングシステムだと述べた。ソフトウェアとハードウェアである以上、製品開発とテストによってリスクを管理できるはずだと彼は主張した。
この立場は、AIインフラ市場で最も影響力のある人物の一人を、新たなAI規制に明確に反対する側へ置くものだ。また、AI開発者と企業の購入者が直面する中心的な政策上の争点を浮き彫りにする。すなわち、潜在的に有害なシステムを主として製品として規制すべきか、それとも、ますます高性能になるモデルやエージェント向けに特化して設計されたルールが必要なのか、という問題である。
規制より工学を重視するHuang氏の主張
「安全性は法的な問題ではなく、工学の問題だ」とHuang氏は述べたと、TechCrunch AIの議論報道は伝えている。彼はAI開発を他のソフトウェアやコンピューティングシステムの作成と比較し、機能、能力、安全性に自信が持てない場合は、企業は公開を遅らせるべきだと語った。
Huang氏はまた、自由市場には危険な製品の投入を避けるためのインセンティブがすでにあると主張した。彼の見方では、信頼性や安全性に欠けるシステムは顧客に受け入れられず、製品が制御不能になっているように見える場合には、企業は開発ペースを調整できる。
Nvidiaのトップは、安全性と迅速なイノベーションは両立する目標だと示した。必要なときには一時停止しながらも、企業は引き続きスピードを維持できると彼は述べた。彼の主張は、Nvidiaが業界や国をまたいでAI導入を拡大したいという広い商業的利益を反映しているが、TechCrunchが示した証拠だけでは、市場インセンティブのみで深刻な害を防ぐのに十分だとは立証されていない。
安全性の議論を支える証拠
Huang氏の発言は、Nvidiaの新しい安全性研究や独立して検証された政策分析の結果ではなく、経営幹部としての立場である。TechCrunchはSalesforceのイベントでの発言を報じたが、企業の自発的な判断がAI製品における障害や悪用を一貫して防いでいることを示すデータは引用されなかった。
ソフトウェア展開の実績には、慎重であるべき理由がある。TechCrunchは、2024年のCrowdStrike障害を取り上げた。これは、不具合のあるソフトウェア更新によって航空会社や他の企業が混乱した事例であり、意図しない製品の失敗が、その製品を出した企業をはるかに超える影響を生み得ることを示している。
記事はまた、メタが自社のソーシャルプラットフォーム上での子どもへの被害の申し立てに関連して、180億ドルの和解に至ったと報じられた件にも触れた。この事例はAI固有の先例ではないが、企業が製品判断の社会的コストを常に完全に内部化するとは限らないという前提の限界を示している。
AIシステムも独自の懸念を生み出しており、チャットボットとのやり取りに関する申し立て、サイバーセキュリティ事件、OpenAIに対する訴訟などが含まれる。これらの例は、規制が根本的な被害を防いだことを証明するものではない。しかし、システムが購入者でも運用者でもない人々に影響を与える場合、内部テストと顧客の選択だけで十分な保護を提供できるのか、という批判者の疑問を裏づけている。
TechCrunchが指摘したように、既存の製造物責任法はAI製品に適用される可能性があるが、それはなお法的な問題であり、裁判所がさまざまなシステム、用途、責任の連鎖にわたって検証する必要がある。情報源によれば、Huang氏は業界の自主規制には重点を置かなかったが、これは無制限の展開と正式な政府ルールの中間にある別の道でもある。
Huang氏の見解がAI開発者に意味すること
モデル開発者や製品チームにとって、Huang氏の立場は、AIの安全性をリリースとエンジニアリングの規律として扱う重要性を強調する。そこには、モデルの挙動テスト、展開の監視、アクセス制御の設定、システムが予期せず振る舞った際の明確なロールバック手順の作成が含まれる。
これらの実践は、単にテキストを生成するだけでなく、業務システム内で行動できるAIエージェントにとって特に重要だ。エージェントの障害は、顧客記録、支払い、コードリポジトリ、社内判断に影響し得る。市場圧力はインシデント後に企業を罰するかもしれないが、障害が起こる前に影響を受けるユーザーを必ずしも守るわけではない。
商業的な文脈も重要だ。NvidiaはAIの学習と展開に使われるインフラの大部分を供給しており、ソフトウェア、エージェント、オープンウェイトモデル、開発環境へも事業を拡大している。その成長は、顧客が引き続き大規模にAIシステムを構築・運用することに依存している。これはHuang氏の安全性の議論を無効にするものではないが、読者は技術的意見と公益上のトレードオフに関する独立した評価を区別すべきだということを意味する。
企業にとって、この議論は実務的なデューデリジェンスの問題を生む。購入者は、ベンダーの内部安全プロセスが、自社環境での導入によって生じるあらゆるリスクをカバーすると想定できない。モデルやエージェントが損害を引き起こした場合には、契約上の保護、監査権、インシデント報告、人による監督、明確な責任分担が必要になる。
規制、自主規制、競争
Huang氏の発言は、AI業界が、開発を遅らせずに安全策を提供するために自主基準が機能し得るのかを考えている時期に出された。TechCrunchは、Microsoft CEOのSatya Nadella氏が、ハッキングや市民の安全といったリスクについて、企業や中国を含む各国が懸念を共有すべきだと主張していると報じた。
この主張は協調的な業界自主規制の方向を示すが、参加と執行はなお未解決だ。自主的な枠組みは、その適用範囲、テスト基準、報告要件、そして無視した企業への結果がどれだけ強いかに左右される。また、専有システム、オープンウェイトモデル、第三者経由で配布される製品に一貫して適用するのは難しいかもしれない。
Huang氏は、オープンウェイトモデルを専有AIラボに対する競争上の対抗軸として推進してきた。このアプローチはモデルやツールへのアクセスを広げる一方で、下流の利用者が元の開発者の想定しなかった方法でシステムを改変、微調整、展開できるため、監督を複雑にする。
したがって、中心的な政策上の問いは、単にAIがソフトウェアであるかどうかではない。広範な自律性、不確実な挙動、大規模な社会的影響を持つソフトウェアを、通常の商業製品に使われるのと同じ仕組みで十分に統治できるのか、という点である。
今後注目すべきこと
次のシグナルは、企業がHuang氏の述べた安全性の立場をどのように実務化するかから出てくる。購入者と開発者は、独立監査済みのテスト、実質的なインシデント開示、そして安全上の懸念が生じた際にベンダーがシステムを停止または撤回する証拠に注目すべきだ。
訴訟もまた、既存の製造物責任ルールが、モデル作成者、アプリケーション開発者、導入者、ユーザーの間で責任をどのように割り当てられるかを明らかにするだろう。政策担当者は、これらの事例をもとに、新たなルールが必要か、あるいは現行法を適応させられるかを判断できる。
業界主導の標準も別の試金石になる。その信頼性は、大手AIラボとインフラ提供企業が共通の定義を採用し、障害に関する情報を共有し、安全への約束をマーケティング文句として扱うのではなく、非遵守に対する結果を受け入れるかどうかにかかっている。
Creati.aiの見解
Huang氏が、AIの安全性の多くは評価、アクセス制御、監視、規律あるリリースプロセスといった工学的判断に関わるという点では正しい。しかし、技術的制御と公的説明責任は同じものではない。企業は誠意を持って努力しても失敗モードを見落とすことがあり、一方で影響を受けた人々は、その結果生じる害から実質的に逃れる手段を持たないかもしれない。
より持続的なアプローチは、技術的な安全対策と、実効性のある責任を組み合わせることだろう。AI開発者にとっては、失敗を前提に設計し、制御を文書化することを意味する。企業にとっては、説明を信じるのではなく証拠を求めることを意味する。そして政策担当者にとっては、どこに的を絞った新ルールが必要かを決める前に、既存法が機能するかを検証することを意味する。
