Theranos 내부고발자 Tyler Shultz, AI 붐이 기만 행위의 적발을 더 어렵게 만들 수 있다고 경고
Tyler Shultz는 투자자들이 진정으로 새로운 시스템과 기존 도구를 약간 포장한 제품을 구분하기 어려워질 수 있기 때문에 AI 스타트업이 새로운 사기 위험을 만든다고 말한다.
결함 있는 혈액검사 기술을 폭로하는 데 도움이 된 경고를 내놓았던 전 Theranos 직원 Tyler Shultz가 투자자들에게 AI 스타트업을 훨씬 더 엄격하게 검토하라고 촉구하고 있다. Shultz는 The San Francisco Standard와의 인터뷰에서 인공지능을 평가하기 어렵다는 점이 부정직한 창업자들에게 투자자를 오도할 새로운 방법을 제공할 수 있다고 말했다.
그의 경고는 아직 수익을 내지 못한 기업까지 포함해 AI 붐이 막대한 자본과 높은 기업가치를 계속 끌어들이는 가운데 나왔다. 핵심은 현재의 AI 기업들이 Theranos와 같다는 것이 아니다. 기술 분야의 복잡성 때문에 비전문 투자자들이 과장된 주장을 검증하기 어려워질 수 있다는 뜻이다.
Shultz가 Theranos 비교를 제기하는 이유
Shultz는 대학 졸업 직후 Theranos에 합류했으며, 회사의 혈액검사 장비가 위험할 정도로 부정확한 결과를 내놓는다는 사실을 발견한 뒤 핵심 내부고발자가 됐다. TechCrunch가 그의 발언과 회사의 역사를 다룬 보도에 따르면, 이 장비들은 Walgreens 매장에서 사용됐고 실제 환자들에게 잘못된 정보를 제공했다.
Theranos는 독점 시스템이 지원한다고 주장한 광범위한 검사를 실제로 수행하지 못했음에도 약 100억 달러의 기업가치를 기록했다. TechCrunch에 따르면 회사는 검사 일부에만 자체 장비를 사용했고, 다른 결과에는 제3자 장비에 의존했다.
이러한 역사가 AI에 대한 Shultz의 우려를 형성한다. 그는 투자자들이 더 이상 창업자와의 짧은 만남을 대규모 개인 투자의 충분한 근거로 간주해서는 안 된다고 주장했다. 그의 관점에서 Theranos는 한때 비교적 적은 금액이 필요했을 자금 조달 모델이 훨씬 더 큰 금융·제도적 실패로 확대될 수 있음을 보여줬다.
이 비교는 전 Theranos 최고경영자 Elizabeth Holmes가 수감 생활을 시작하기 전의 모습을 다룬 다큐멘터리 「You Can See Everything」을 통해서도 다시 부각되고 있다. TechCrunch는 Holmes와 그의 파트너 Billy Evans가 Haemanthus라는 진단 기업도 함께 운영하고 있다고 보도했다. 이 회사는 영화에서 “Theranos 2.0”으로 묘사됐으며 약 2,000만 달러를 조달한 것으로 알려졌다. 현재 공개된 증거만으로는 이 신생 기업이 Theranos의 행위를 반복했다고 입증할 수 없다.
AI 분야의 실사 문제
Shultz의 핵심 주장은 AI 기업은 외부에서 평가하기가 유난히 어려울 수 있다는 것이다. 투자자는 물리적 시제품을 검사하거나 전통적인 과학적 증거를 요구할 수 있지만, AI 기업을 평가하려면 학습 데이터, 모델 아키텍처, 테스트 방법론, 추론 비용, 보안 통제, 고객 사용 데이터에 접근해야 할 수 있다.
그는 특히 진정으로 차별화된 제품과 “ChatGPT wrapper”를 구분하기 어려울 수 있다고 경고했다. 이는 기존 모델 주위에 얇은 소프트웨어 또는 업무 흐름 계층을 추가하는 서비스를 뜻한다. 이 구분이 중요한 이유는 제품이 기술적으로 정교해 보이더라도 다른 회사의 모델, 애플리케이션 프로그래밍 인터페이스, 가격, 가용성에 크게 의존할 수 있기 때문이다.
개발자와 투자자에게 중요한 문제는 래퍼가 본질적으로 부적법한지 여부가 아니다. 많은 유용한 제품은 기존 모델에 특화된 인터페이스, 독점 데이터, 프로세스 통합 또는 규정 준수 기능을 결합한다. 실사에서 물어야 할 것은 회사가 방어 가능한 경쟁우위를 갖고 있는지, 그리고 기본 모델 제공자가 가격, 접근 조건 또는 기능을 변경해도 사업성이 유지되는지다.
성능 주장에도 비슷한 문제가 적용된다. 모델 결과는 벤치마크, 프롬프트 설계, 평가 세트, 인간 검토자, 운영 조건에 따라 달라질 수 있다. 영업 시연은 신중하게 선택한 상황에서 시스템이 작동한다는 점을 보여줄 수 있지만, 고객의 전체 업무 흐름에서 신뢰할 수 있다는 것을 입증하지는 않는다.
증거가 보여주는 것과 보여주지 않는 것
이 이야기에서 가장 강력한 증거는 The San Francisco Standard와의 인터뷰를 바탕으로 TechCrunch가 보도한 Shultz의 위험 설명이다. Tech Buzz의 기사는 같은 광범위한 경고를 독립적으로 반영하지만, 추가 기사 내용이나 뒷받침 자료는 제공하지 않는다.
보도는 Shultz가 사기라고 믿는 특정 AI 기업을 지목하지 않는다. 현재 AI 시장 전체가 기만에 기반하고 있다는 증거도 제시하지 않는다. 1조 달러 규모의 기업가치로 자금을 조달하는 기업에 대한 언급은 TechCrunch 보도에서 제시된 시장 맥락이지, 그 기업들이 기술을 허위로 설명했다는 증거가 아니다.
이 구분은 중요하다. AI 시스템은 실재하며 점점 유용해지고 있지만, 작동하는 기술의 존재가 스타트업의 독점 역량, 성장, 마진 또는 고객 도입에 관한 모든 주장을 입증하는 것은 아니다. 높은 기업가치 역시 제품과 시장의 적합성을 증명하지 않는다.
Theranos는 의심되는 실패가 의료적 판단과 실제 환자에게 영향을 미쳤다는 점에서 특히 심각한 사례다. AI 제품도 중대한 결과가 따르는 환경에서 작동할 수 있지만 위험은 사용 사례에 따라 다르다. 결함 있는 마케팅 보조 도구와 의료 분류에 사용되는 시스템에는 같은 통제, 증거 또는 책임 분석이 요구되지 않는다.
개발자와 기업 구매자에 대한 시사점
AI 창업자에게 Shultz의 경고는 무엇이 진정으로 독점적인지 설명하는 기준을 높인다. 기업은 스택의 어떤 부분을 통제하는지, 어떤 기능이 외부 모델 제공업체에서 오는지, 출력을 어떻게 평가하는지, 시스템이 실패하면 어떤 일이 일어나는지를 설명할 수 있어야 한다.
이러한 투명성은 자금 조달에도 도움이 될 수 있다. 한계, 지연 시간, 모델 비용, 오류율, 의존성 위험을 보고하는 기업은 폭넓은 주장을 내세우는 기업보다 짧은 발표에서는 덜 인상적으로 보일 수 있다. 그러나 투자자에게 지속 가능성을 판단할 더 명확한 근거를 제공한다.
기업 구매자도 비슷한 문제에 직면한다. AI 제품을 도입하기 전에 조달 및 기술팀은 대표적인 내부 데이터로 제품을 테스트하고, 공급업체의 보안·개인정보 보호 관행을 확인하며, 인간 검토 요건을 점검하고, 현실적인 사용량을 기준으로 비용을 계산해야 한다. 또한 선호하는 기반 모델이 바뀌어도 공급업체가 해당 업무 흐름을 지원할 수 있는지 물어야 한다.
따라서 핵심 질문은 단순히 AI 데모가 작동하는지 여부가 아니다. 구매자의 환경에서 제품이 일관되게 작동하는지, 배포 후 모니터링할 수 있는지, 모델 가격이나 고객 확대에 대한 낙관적 가정에 전적으로 의존하지 않는 사업 모델을 갖고 있는지가 중요하다.
앞으로 주목할 점
투자자와 고객은 AI 스타트업이 모델 출처, 벤치마크 방법론, 고객 유지율, 매출총이익률, 제3자 플랫폼 의존성에 대해 더 상세히 공개하는지 주목해야 한다. 특히 규제 대상이거나 안전성이 중요한 애플리케이션에서는 창업자가 선택한 시연보다 독립적인 평가가 더 유용할 것이다.
시장에서는 실사 관행이 어떻게 발전하는지도 지켜봐야 한다. 자금이 실험에서 대규모 배포로 이동하면서 기술 감사, 재현 가능한 평가, 레퍼런스 고객, 사용량 기반 매출 증거, 문서화된 사고 이력에 대한 요구가 더욱 일반화될 수 있다.
마지막으로 Haemanthus 또는 Holmes와 관련된 다른 사업에 관한 향후 주장은 검증 가능한 증거를 바탕으로 별도로 평가해야 한다. 전 Theranos 임원이 새로운 사업을 시작했다는 사실 자체는 위법 행위의 증거가 아니다. 설득력 있는 AI 발표가 사기의 증거가 아닌 것과 마찬가지다.
Creati.ai의 관점
Shultz의 경고는 AI 업계에 대한 판결이 아니라 실사 프레임워크로 받아들일 때 가장 유용하다. 핵심 위험은 모든 AI 스타트업이 기만적이라는 것이 아니다. 기술적 복잡성, 빠른 자금 조달, 설득력 있는 시연이 자금과 책임이 다음 단계로 넘어가기 전에 취약한 주장을 문제 삼기 어렵게 만들 수 있다는 점이다.
AI 개발자와 구매자에게 신뢰성은 점점 더 작업 내용을 보여주는 데 달려 있을 것이다. 명확한 시스템 경계, 반복 가능한 평가, 실패에 대한 정직한 보고, 모델 계층의 변화에도 견디는 경제성이 필요하다. 이러한 관행이 사기를 없앨 수는 없지만, 발표의 품질이 증거를 대신하기는 더 어렵게 만든다.
