Theranos-Whistleblower Tyler Shultz warnt, der KI-Boom könnte Täuschungen schwerer erkennbar machen

Tyler Shultz, der ehemalige Theranos-Mitarbeiter, dessen Warnungen dazu beitrugen, die fehlerhafte Bluttesttechnologie des Unternehmens aufzudecken, fordert Investoren zu einer deutlich gründlicheren Prüfung von KI-Start-ups auf. In einem Interview mit The San Francisco Standard sagte Shultz, dass die Schwierigkeit, künstliche Intelligenz zu bewerten, unehrlichen Gründern neue Möglichkeiten geben könnte, Geldgeber zu täuschen.

Seine Warnung kommt zu einem Zeitpunkt, an dem der KI-Boom weiterhin enormes Kapital und hohe Bewertungen anzieht – auch für Unternehmen, die noch keinen Gewinn erwirtschaftet haben. Es geht nicht darum, dass aktuelle KI-Unternehmen mit Theranos gleichzusetzen wären, sondern darum, dass die technische Komplexität des Sektors übertriebene Behauptungen für nicht spezialisierte Investoren schwer überprüfbar machen kann.

Warum Shultz den Theranos-Vergleich zieht

Shultz kam kurz nach seinem Hochschulabschluss zu Theranos und wurde zu einem wichtigen Whistleblower, nachdem er entdeckt hatte, dass die Bluttestgeräte des Unternehmens gefährlich ungenaue Ergebnisse lieferten. Laut dem Bericht von TechCrunch über seine Äußerungen und die Geschichte des Unternehmens wurden die Geräte in Walgreens-Filialen eingesetzt und erzeugten fehlerhafte Informationen für echte Patienten.

Theranos erreichte eine Bewertung von rund 10 Milliarden US-Dollar, obwohl sein proprietäres System nicht die breite Palette von Tests durchführen konnte, die das Unternehmen behauptete. Das Unternehmen nutzte seine eigenen Geräte nur für einen Teil der Tests und griff für andere Ergebnisse auf Geräte von Drittanbietern zurück, berichtete TechCrunch.

Diese Geschichte prägt Shultz’ Sorge hinsichtlich der KI. Er argumentierte, Investoren sollten ein kurzes Treffen mit einem Gründer nicht länger als ausreichende Grundlage für eine große persönliche Investition betrachten. Seiner Ansicht nach zeigte Theranos, wie ein Fundraising-Modell, das einst relativ kleine Beträge umfasst haben mag, zu einem viel größeren finanziellen und institutionellen Versagen ausgeweitet werden konnte.

Der Vergleich wird auch durch den Dokumentarfilm „You Can See Everything“ wiederbelebt, der der ehemaligen Theranos-Chefin Elizabeth Holmes folgt, bevor sie ihre Haftstrafe antritt. TechCrunch berichtete, dass Holmes und ihr Partner Billy Evans außerdem an Haemanthus arbeiten, einem Diagnostikunternehmen, das im Film als „Theranos 2.0“ bezeichnet wird und Berichten zufolge rund 20 Millionen US-Dollar eingesammelt hat. Die verfügbaren Belege zeigen nicht, dass das neue Unternehmen das Verhalten von Theranos wiederholt hat.

Das Due-Diligence-Problem bei KI

Shultz’ zentrales Argument lautet, dass KI-Unternehmen von außen ungewöhnlich schwer zu beurteilen sein können. Ein Investor kann möglicherweise einen physischen Prototyp untersuchen oder konventionelle wissenschaftliche Belege anfordern. Die Bewertung eines KI-Unternehmens kann jedoch Zugang zu Trainingsdaten, Modellarchitektur, Testmethodik, Inferenzkosten, Sicherheitskontrollen und Kundennutzungsdaten erfordern.

Er warnte ausdrücklich davor, dass es schwierig sein könne, ein wirklich eigenständiges Produkt von einem „ChatGPT wrapper“ zu unterscheiden – einem Dienst, der einem bestehenden Modell lediglich eine dünne Software- oder Workflow-Schicht hinzufügt. Diese Unterscheidung ist wichtig, weil ein Produkt technisch anspruchsvoll erscheinen kann, während es stark vom Modell, der Programmierschnittstelle, der Preisgestaltung und der Verfügbarkeit eines anderen Unternehmens abhängt.

Für Entwickler und Investoren geht es nicht darum, ob Wrapper grundsätzlich unzulässig sind. Viele nützliche Produkte kombinieren bestehende Modelle mit spezialisierten Benutzeroberflächen, proprietären Daten, Prozessintegration oder Compliance-Funktionen. Die entscheidende Prüfungsfrage ist, ob das Unternehmen einen verteidigungsfähigen Vorteil besitzt und ob seine Wirtschaftlichkeit bestehen bleibt, wenn der zugrunde liegende Modellanbieter Preise, Zugangsbedingungen oder Fähigkeiten ändert.

Ein ähnliches Problem betrifft Leistungsversprechen. Die Ergebnisse eines Modells können je nach Benchmark, Prompt-Design, Evaluationsdatensatz, menschlichen Prüfern und Betriebsbedingungen variieren. Eine Verkaufsdemonstration kann zeigen, dass ein System in einem sorgfältig ausgewählten Szenario funktioniert, ohne zu belegen, dass es im gesamten Workflow eines Kunden zuverlässig ist.

Was die Belege zeigen – und was nicht

Die stärksten Belege in dieser Geschichte sind Shultz’ Schilderungen der Risiken, über die TechCrunch aus seinem Interview mit The San Francisco Standard berichtete. Der Beitrag von Tech Buzz spiegelt unabhängig davon dieselbe allgemeine Warnung wider, liefert jedoch keinen zusätzlichen Artikeltext und keine unterstützende Dokumentation.

Die Berichterstattung nennt kein bestimmtes KI-Unternehmen, das Shultz für betrügerisch hält. Sie liefert auch keine Belege dafür, dass der aktuelle KI-Markt als Ganzes auf Täuschung beruht. Verweise auf Unternehmen, die Kapital zu Bewertungen von einer Billion US-Dollar aufnehmen, sind im TechCrunch-Bericht Marktumfeld und kein Beweis dafür, dass diese Unternehmen ihre Technologie falsch dargestellt haben.

Diese Unterscheidung ist wichtig. KI-Systeme sind real und werden zunehmend nützlich, doch die Existenz funktionierender Technologie bestätigt nicht jede Behauptung über proprietäre Fähigkeiten, Wachstum, Margen oder Kundenakzeptanz eines Start-ups. Ebenso beweist eine hohe Bewertung keinen Product-Market-Fit.

Theranos ist ein besonders gravierendes Beispiel, weil die mutmaßlichen Fehler medizinische Entscheidungen und echte Patienten betrafen. Auch KI-Produkte können in Bereichen mit hohen Risiken eingesetzt werden, doch die Risiken unterscheiden sich je nach Anwendungsfall. Ein fehlerhafter Marketingassistent und ein System für die medizinische Triage erfordern nicht dieselben Kontrollen, Nachweise oder Haftungsanalysen.

Auswirkungen für Entwickler und Unternehmenskunden

Für KI-Gründer erhöht Shultz’ Warnung die Anforderungen an die Kommunikation darüber, was tatsächlich proprietär ist. Unternehmen sollten erklären können, welche Teile ihres Stacks sie kontrollieren, welche Fähigkeiten von externen Modellanbietern stammen, wie Ausgaben bewertet werden und was geschieht, wenn das System versagt.

Diese Transparenz kann auch die Kapitalbeschaffung verbessern. Ein Unternehmen, das Einschränkungen, Latenz, Modellkosten, Fehlerquoten und Abhängigkeitsrisiken offenlegt, kann in einem kurzen Pitch weniger beeindruckend wirken als eines mit weitreichenden Behauptungen. Es bietet Investoren jedoch eine klarere Grundlage, um die Dauerhaftigkeit zu beurteilen.

Unternehmenskunden stehen vor einer ähnlichen Herausforderung. Vor der Einführung eines KI-Produkts sollten Beschaffungs- und Technikteams es mit repräsentativen internen Daten testen, die Sicherheits- und Datenschutzpraktiken des Anbieters überprüfen, Anforderungen an die menschliche Kontrolle untersuchen und die Kosten bei realistischer Nutzung berechnen. Außerdem sollten sie fragen, ob der Anbieter den Workflow unterstützen kann, wenn sich dessen bevorzugtes Basismodell ändert.

Die entscheidende Frage lautet daher nicht einfach, ob eine KI-Demo funktioniert. Entscheidend ist, ob das Produkt in der Umgebung des Käufers konsistent arbeitet, nach der Einführung überwacht werden kann und über ein Geschäftsmodell verfügt, das nicht vollständig von optimistischen Annahmen über Modellpreise oder Kundenwachstum abhängt.

Worauf jetzt zu achten ist

Investoren und Kunden sollten auf detailliertere Angaben von KI-Start-ups zur Herkunft der Modelle, Benchmark-Methodik, Kundenbindung, Bruttomargen und Abhängigkeit von Plattformen Dritter achten. Unabhängige Bewertungen werden insbesondere bei regulierten oder sicherheitskritischen Anwendungen nützlicher sein als von Gründern ausgewählte Demonstrationen.

Der Markt sollte außerdem beobachten, wie sich Due-Diligence-Verfahren entwickeln. Technische Audits, reproduzierbare Evaluierungen, Referenzkunden, Nachweise nutzungsbasierter Umsätze und dokumentierte Vorfallhistorien könnten häufiger verlangt werden, wenn sich die Finanzierung von Experimenten hin zu großflächigem Einsatz verschiebt.

Schließlich sollten künftige Behauptungen über Haemanthus oder andere mit Holmes verbundene Unternehmungen separat und anhand überprüfbarer Belege bewertet werden. Die Existenz eines zweiten Kapitels für eine ehemalige Theranos-Führungskraft ist für sich genommen kein Beweis für Fehlverhalten – ebenso wenig wie ein überzeugender KI-Pitch ein Beweis für Betrug ist.

Die Perspektive von Creati.ai

Shultz’ Warnung ist am nützlichsten, wenn sie als Rahmen für die Prüfung und nicht als Urteil über die KI-Branche verstanden wird. Das zentrale Risiko besteht nicht darin, dass jedes KI-Start-up täuscht, sondern darin, dass technische Komplexität, schnelle Finanzierung und überzeugende Demonstrationen schwache Behauptungen schwerer angreifbar machen können, bevor Geld und Verantwortung weitergereicht wurden.

Für KI-Entwickler und -Käufer wird Glaubwürdigkeit zunehmend davon abhängen, die Arbeit offenzulegen: klare Systemgrenzen, wiederholbare Evaluierungen, ehrliche Berichte über Fehler und eine Wirtschaftlichkeit, die Veränderungen in der Modellebene übersteht. Diese Praktiken können Betrug nicht ausschließen, erschweren es jedoch, dass Präsentationsqualität an die Stelle von Belegen tritt.