AIエージェントはモデル開発の作業を拡大するが、重要な判断は依然として人間が握る

AIエージェントは、AIモデルを構築するうえで必要な作業の中でますます大きな割合を担うようになっているが、新たな分析によれば、研究者が何を追求し、どう進めるかを決める場面では、その影響力ははるかに小さいままである。

中国の復旦大学を含む研究チームは、56人の参加者と彼らが使用したエージェントが関わったモデル開発プロジェクトの769件のタスクログを調査した。研究では、AIが方法やパラメータに関する提案の最大55.4％を提供した一方で、人間はそれらの分野の最終決定の85.5％を下していた。また、人間はプロジェクトの目標と範囲を93.4％のケースで選択していた。

この結果は、単純な活動量の指標が示す以上に、エージェントの自律性をより慎重に捉える必要があることを示している。エージェントは作業を行い、選択肢を生成し、修正にも対応したが、人間の判断が依然として主な制御点だった。特に、プロジェクトが曖昧さ、失敗、戦略的選択に直面したとき、その傾向は強かった。

Atria Dawn Previewを試験ケースとして

このプロジェクトの中心は、7440億パラメータを持つMixture-of-Expertsアーキテクチャ上に構築されたエージェント型言語モデル、Atria Dawn Previewだった。チームはこれを研究およびエンジニアリング作業向けに設計し、各タスクが実行環境と結び付いたワークフローを用いた。エージェントはツールを呼び出し、中間結果を生成し、テスト、指標、またはソース証拠からフィードバックを受け取ることができた。

研究者らによると、AIはレビュー対象のタスクの96.5％で使用されていた。4週間にわたり、エージェントの行動数と人間の入力の比率の中央値は11から28.5に増加した。この上昇は、エージェントがより独立していくことを示しているように見えるかもしれないが、著者らは、主に別のパターンを反映していると主張する。つまり、1回の人間の判断が、より長いエージェント行動の連鎖を引き起こすことが多かったということだ。

報告によれば、このモデルはWeb検索やサイバーセキュリティを含む16個のベンチマークのうち5つで首位に立った。ただし、出典はAtria Dawn Previewが競合システム全体に対して総合的に優位だったことを示していないため、ベンチマーク結果は広範な優越性の証拠ではなく、限定的な性能主張として扱うべきである。

エージェントが選択肢を提案し、人間が方向を選んだ

最も一般的な意思決定パターンは「AIが提案し、人間が選ぶ」であり、方法とパラメータに関する決定の55.4％を占めた。同じカテゴリでは、AIが最終決定を下した割合は9.2％で、人間の85.5％と比べて大きく下回った。AIの提案比率は意思決定の種類によって17％から55％まで変動したが、最終選択における役割は一桁台にとどまった。

人間の制御は、プロジェクトレベルの選択ではさらに強かった。研究者が目標と範囲について最終決定を下したのは93.4％のケースだった。参加者が「AIなしでは実現不可能だった」と述べた151件のタスクのうちでも、人間は95.4％の確率で目標を選んでいた。

この違いはモデル開発において重要である。エージェントは、実行に値するかを自ら決めずに、大量の実装候補を探索したり、複雑な実験を実行したりできる。今回の研究証拠は、現行システムが研究アジェンダの担い手というより、研究オペレーターや提案生成器として有効であることを示唆している。

AIは作業を速くしただけでなく、可能にした

この研究は、AIエージェントの、あまり目立たない効果も示している。AI支援で完了した455件のタスクのうち、151件――約3分の1――は、同じ範囲と品質ではAIなしには不可能だったと参加者が判断した。これらのタスクは56人中27人にまたがっており、少数の上級ユーザーだけに集中していたわけではない。

この結果は、エージェントが既存のワークフローを単に高速化するだけでなく、チームが取り組める作業の範囲そのものを広げる可能性を示唆している。AI構築者にとっては、より多くの実験、評価、エンジニアリング上の変更がプロジェクトのパイプラインに入ってくることを意味するかもしれない。同時に、試みる作業量が増えるにつれてレビューを要する行動も増えるため、監督の負担がより大きくなることも意味しうる。

タスクが難しくなると、人間の介入が通常の打開策だった。難易度が記録された588件のタスクでは、76％が人間の支援によって進展し、23％は介入なしでエージェントが解決した。最も一般的な支援は、文脈の提供や要件の明確化で35.2％、問題の診断や方法の変更で34.7％だった。

人間が直接実行を引き継ぐことはまれだった。部分的な編集は介入の3.2％、完全な引き継ぎは0.7％だった。フィードバックが与えられた後、エージェントが自ら修正を処理したのは75.4％のケースだった。実務上、人間のボトルネックは通常、手作業での実行ではなく、判断と情報だった。

監督の問題はエージェント活動の増加とともに拡大する

この結果は、より自律的なモデル開発の可能性を否定するものではない。むしろ、エージェントの連鎖が長くなるほど鋭くなる制御上の問題を示している。誰もすべての中間行動を検査できないなら、人間によるレビューは、実質的な監督ではなく、要約や最終出力の承認へと劣化するかもしれない。

研究者はまた、参加者が長時間かかるプロセスを中断しないために、自律モードをよく使っていたことも観察した。この境界は、チームがエージェントにどれほどの権限を与えるべきかを正式に決めたからではなく、利便性のために選ばれたものだったという。企業のAIチームにとって、これは運用設定が気づかぬうちにガバナンス上の決定になりうるという警告である。

この研究は、現在のシステムを2つの発展段階の間に位置づけている。AIは、単なる研究対象や狭い作業ツールを超えたが、明確に独立した研究ディレクターになったわけではない。著者らは次の段階の可能性として、より強力なシステムが後継を生み出すのを助ける再帰的自己改善を挙げつつ、訓練タスクでの性能向上からより良いモデル設計へ至る道はまだ未解決だと強調している。

次に注目すべき点

最も重要な次の確認点は、同様の意思決定パターンが他のモデル開発組織やプロジェクトにも見られるかどうかである。本研究は一つのチームの作業を調査したものであり、その観察結果をAI自律性の普遍的な尺度とみなすべきではない。

研究者と購入者は、3つの兆候に注目すべきだ。第一に、将来の評価では、エージェントの行動と、目標・方法・資源配分に関する決定を分けて扱うべきである。第二に、開発プラットフォームには、長いエージェント連鎖から最終提案がどのように生まれたのかを示す監査ログが必要になるかもしれない。第三に、自動化されたAI研究をうたう企業は、人間がどのくらいの頻度で目的を設定し、提案を却下し、方法を変更し、失敗後に介入するのかを開示すべきである。

再帰的自己改善をめぐる議論も、コーディング速度や実験スループットだけでなく、研究判断に関する証拠に依存するだろう。Anthropicのような企業による、ますます自動化された研究指揮に関する主張は、この独立に記述されたプロジェクトとは別カテゴリの証拠であり、共通の測定なしに直接比較すべきではない。

Creati.aiの視点

この研究の中心的な教訓は運用面にある。エージェントの活動が増えても、必ずしもエージェントの権限が増すわけではない。AIエージェントは、チームが実行できる実験やエンジニアリング作業の数を増やせる一方で、どの問いが重要か、そして結果が方向転換に値するかを決めるのは依然として人間である。

開発者や企業チームにとって、当面の優先事項は単に自律実行回数を最大化することではない。意思決定の由来を保持し、不確実性を表面化させ、長いエージェント作業の連鎖の中に隠れた選択を検証できるシステムを設計することである。エージェントが結果が出る前に研究目標を確実に評価できるようになるまでは、モデル開発において人間の判断が希少な資源であり続ける。