Theranosの内部告発者Tyler Shultz、AIブームで欺瞞の見抜きが難しくなる可能性を警告

Theranosの元従業員で、同社の欠陥ある血液検査技術の発覚に貢献した警告を発したTyler Shultzが、投資家にAIスタートアップをはるかに厳しく精査するよう促している。The San Francisco StandardとのインタビューでShultzは、人工知能の評価が難しいことにより、不誠実な創業者が出資者を欺く新たな方法を得る可能性があると述べた。

この警告は、AIブームが、まだ利益を上げていない企業も含め、巨額の資本と高い評価額を引き寄せ続ける中で出されたものだ。現在のAI企業がTheranosと同等だという意味ではない。問題は、業界の技術的な複雑さによって、専門外の投資家が誇張された主張を検証することが難しくなり得る点にある。

ShultzがTheranosとの比較を持ち出す理由

Shultzは大学卒業後まもなくTheranosに入社し、同社の血液検査装置が危険なほど不正確な結果を出していることを発見した後、主要な内部告発者となった。TechCrunchが彼の発言と同社の歴史について報じた内容によると、その装置はWalgreensの店舗で使われ、実際の患者に誤った情報を提供していた。

Theranosは、独自システムが対応すると主張していた幅広い検査を実施できなかったにもかかわらず、約100億ドルの評価額に達した。同社は検査の一部にのみ自社の装置を使い、他の結果には第三者の機器を利用していたとTechCrunchは報じている。

この経緯が、AIをめぐるShultzの懸念の背景にある。彼は、投資家はもはや創業者との短い面談だけを、大規模な個人投資の十分な根拠とみなすべきではないと主張した。Shultzの見方では、Theranosは、かつては比較的小さな金額を伴っていた可能性のある資金調達モデルが、はるかに大きな金融・制度上の失敗へ拡大し得ることを示した。

この比較は、元Theranos最高経営責任者のElizabeth Holmesが服役を始める前の姿を追うドキュメンタリー「You Can See Everything」によっても再び注目されている。TechCrunchによると、HolmesとパートナーのBilly Evansは、Haemanthusという診断企業にも取り組んでいる。同社は映画の中で「Theranos 2.0」と説明され、約2,000万ドルを調達したと報じられている。入手可能な証拠からは、この新会社がTheranosの行為を繰り返したとは確認できない。

AIにおけるデューデリジェンスの問題

Shultzの中心的な主張は、AIビジネスは外部から評価するのが特に難しい場合があるということだ。投資家は物理的な試作品を調べたり、従来型の科学的証拠を求めたりできるかもしれない。しかしAI企業の評価には、学習データ、モデルアーキテクチャ、テスト方法、推論コスト、セキュリティ管理、顧客の利用データへのアクセスが必要になることがある。

彼は特に、真に独自性のある製品と「ChatGPT wrapper」を区別するのは難しいかもしれないと警告した。これは、既存モデルの周囲に薄いソフトウェア層やワークフローを追加するサービスを指す。この区別が重要なのは、製品が技術的に高度に見えても、別会社のモデル、アプリケーション・プログラミング・インターフェース、価格、可用性に大きく依存している可能性があるからだ。

開発者と投資家にとって、問題はラッパーが本質的に不正かどうかではない。多くの有用な製品は、既存モデルに特化したインターフェース、独自データ、プロセス統合、コンプライアンス機能を組み合わせている。デューデリジェンスで問うべきなのは、その企業に防御可能な優位性があるか、そして基盤モデルの提供者が価格、アクセス条件、機能を変更しても経済性が維持されるかどうかだ。

性能に関する主張にも同様の問題がある。モデルの結果は、ベンチマーク、プロンプト設計、評価セット、人間の評価者、運用条件によって変わり得る。営業デモは、慎重に選ばれたシナリオでシステムが動くことを示せても、顧客のワークフロー全体で信頼できることを証明するものではない。

証拠が示すこと、示さないこと

この話で最も強い証拠は、The San Francisco StandardとのインタビューについてTechCrunchが報じた、リスクに関するShultzの説明だ。Tech Buzzの記事も独立して同じ大まかな警告を反映しているが、追加の記事本文や裏付け資料は提供していない。

報道は、Shultzが詐欺的だと考えている特定のAI企業を挙げていない。また、現在のAI市場全体が欺瞞に基づいているという証拠も示していない。1兆ドル規模の評価額で資金を調達する企業への言及は、TechCrunchの報道における市場背景であり、それらの企業が技術を偽って説明した証拠ではない。

この区別は重要だ。AIシステムは現実に存在し、ますます有用になっている。しかし、動作する技術が存在するからといって、スタートアップの独自能力、成長、利益率、顧客導入に関するあらゆる主張が正当化されるわけではない。高い評価額も、プロダクトマーケットフィットを証明するものではない。

Theranosは、疑われた失敗が医療上の判断と実際の患者に影響を与えたため、特に深刻な例である。AI製品も重大な結果を伴う領域で使われ得るが、リスクは用途によって異なる。欠陥のあるマーケティングアシスタントと、医療トリアージに使われるシステムに必要な管理策、証拠、責任分析は同じではない。

開発者と企業ユーザーへの影響

AIの創業者にとって、Shultzの警告は、何が本当に独自のものなのかを伝える際の基準を引き上げる。企業は、スタックのどの部分を自社が管理しているのか、どの機能が外部モデル提供者に由来するのか、出力をどう評価するのか、システムが失敗したとき何が起こるのかを説明できる必要がある。

この透明性は資金調達の改善にもつながる。制約、レイテンシー、モデルコスト、エラー率、依存リスクを報告する企業は、幅広い主張をする企業より短いピッチでは印象が弱く見えるかもしれない。しかし投資家にとって、持続性を判断するためのより明確な根拠を提供できる。

企業の購入者も関連する課題に直面する。AI製品を導入する前に、調達部門と技術チームは代表的な社内データでテストし、提供者のセキュリティとプライバシー対策を確認し、人によるレビューの要件を調べ、現実的な利用量に基づいてコストを計算すべきだ。また、ベンダーが優先する基盤モデルを変更した場合でも、そのワークフローを支援できるかを尋ねる必要がある。

したがって重要な問いは、AIデモが単に動くかどうかではない。購入者の環境で製品が一貫して機能するか、導入後に監視できるか、そしてモデル価格や顧客拡大についての楽観的な仮定に完全に依存しないビジネスモデルを持つかどうかである。

今後注目すべき点

投資家と顧客は、AIスタートアップがモデルの出所、ベンチマーク方法、顧客維持率、粗利益率、第三者プラットフォームへの依存について、より詳しい情報を開示するか注視すべきだ。特に規制対象や安全性が重視される用途では、創業者が選んだデモより独立した評価の方が有用になる。

市場はデューデリジェンスの慣行がどう変化するかも見守るべきだ。資金が実験から大規模導入へ移るにつれ、技術監査、再現可能な評価、導入実績のある顧客、利用ベースの収益を示す証拠、文書化されたインシデント履歴を求める動きが一般的になる可能性がある。

最後に、HaemanthusやHolmesに関連するその他の事業について将来主張がなされた場合は、検証可能な証拠に基づいて個別に評価すべきだ。元Theranos幹部の第二の活動が存在すること自体は不正行為の証拠ではない。それは、説得力のあるAIピッチが詐欺の証拠ではないのと同じだ。

Creati.aiの見解

Shultzの警告は、AI業界への判決ではなく、デューデリジェンスの枠組みとして扱うと最も有用になる。中心的なリスクは、すべてのAIスタートアップが欺瞞的だということではない。技術の複雑さ、急速な資金調達、説得力のあるデモによって、資金と責任が下流へ移る前に、弱い主張を問いただすことが難しくなる点にある。

AIの開発者と購入者にとって、信頼性はますます「仕事の中身」を示せるかどうかに左右される。明確なシステム境界、再現可能な評価、失敗についての正直な報告、モデル層の変化に耐えられる経済性が必要だ。こうした慣行は詐欺をなくせないが、プレゼンテーションの質が証拠の代わりになることを難しくする。