Denunciante da Theranos, Tyler Shultz, alerta que o boom da IA pode dificultar a detecção de enganos

Tyler Shultz, o ex-funcionário da Theranos cujos alertas ajudaram a expor a tecnologia defeituosa de exames de sangue da empresa, está pedindo aos investidores que submetam as startups de IA a um escrutínio muito maior. Em entrevista ao The San Francisco Standard, Shultz disse que a dificuldade de avaliar a inteligência artificial poderia dar a fundadores desonestos novas maneiras de enganar financiadores.

Seu alerta surge enquanto o boom da IA continua atraindo enormes volumes de capital e avaliações, inclusive para empresas que ainda não tiveram lucro. A questão não é que as atuais empresas de IA sejam equivalentes à Theranos, mas que a complexidade técnica do setor pode tornar alegações exageradas difíceis de testar para investidores não especializados.

Por que Shultz faz a comparação com a Theranos

Shultz entrou na Theranos pouco depois da faculdade e se tornou um denunciante importante após descobrir que os dispositivos de exames de sangue da empresa produziam resultados perigosamente imprecisos. Segundo o relato da TechCrunch sobre seus comentários e a história da empresa, as máquinas eram usadas em unidades da Walgreens e geravam informações incorretas para pacientes reais.

A Theranos chegou a uma avaliação de aproximadamente US$ 10 bilhões embora seu sistema proprietário não realizasse a ampla variedade de testes que afirmava oferecer. A empresa usava suas próprias máquinas apenas para parte dos exames e dependia de equipamentos de terceiros para outros resultados, informou a TechCrunch.

Essa história fundamenta a preocupação de Shultz com a IA. Ele argumentou que os investidores não deveriam mais tratar uma breve reunião com um fundador como base suficiente para um grande investimento pessoal. Em sua visão, a Theranos demonstrou como um modelo de captação que antes poderia envolver quantias relativamente pequenas podia ser ampliado até se transformar em um fracasso financeiro e institucional muito maior.

A comparação também está sendo reavivada pelo documentário “You Can See Everything”, que acompanha a ex-diretora executiva da Theranos, Elizabeth Holmes, antes de ela começar a cumprir sua pena de prisão. A TechCrunch informou que Holmes e seu parceiro, Billy Evans, também estão trabalhando na Haemanthus, uma empresa de diagnósticos descrita no filme como “Theranos 2.0” e que teria captado cerca de US$ 20 milhões. As evidências disponíveis não demonstram que a nova empresa tenha repetido a conduta da Theranos.

O problema da diligência prévia na IA

O argumento central de Shultz é que empresas de IA podem ser especialmente difíceis de avaliar de fora. Um investidor talvez consiga inspecionar um protótipo físico ou solicitar evidências científicas convencionais, mas avaliar uma empresa de IA pode exigir acesso a dados de treinamento, arquitetura do modelo, metodologia de testes, custos de inferência, controles de segurança e dados de uso dos clientes.

Ele alertou especificamente que pode ser difícil separar um produto genuinamente distinto de um “ChatGPT wrapper” — um serviço que adiciona uma fina camada de software ou fluxo de trabalho em torno de um modelo existente. A distinção importa porque um produto pode parecer tecnicamente sofisticado enquanto depende fortemente do modelo, da interface de programação de aplicações, dos preços e da disponibilidade de outra empresa.

Para desenvolvedores e investidores, a questão não é se wrappers são inerentemente ilegítimos. Muitos produtos úteis combinam modelos existentes com interfaces especializadas, dados proprietários, integração de processos ou recursos de conformidade. A pergunta da diligência é se a empresa tem uma vantagem defensável e se sua economia continua viável caso o provedor do modelo subjacente altere preços, condições de acesso ou capacidades.

Um problema semelhante se aplica às alegações de desempenho. Os resultados de um modelo podem variar conforme o benchmark, o desenho dos prompts, o conjunto de avaliação, os avaliadores humanos e as condições operacionais. Uma demonstração de vendas pode mostrar que um sistema funciona em um cenário cuidadosamente selecionado sem provar que ele é confiável em todo o fluxo de trabalho de um cliente.

O que as evidências mostram — e o que não mostram

A evidência mais forte nesta história é o relato de Shultz sobre os riscos, conforme reportado pela TechCrunch a partir de sua entrevista com o The San Francisco Standard. O texto da Tech Buzz reflete de forma independente o mesmo alerta geral, mas não fornece texto adicional nem documentação de apoio.

A reportagem não identifica uma empresa específica de IA que Shultz considere fraudulenta. Também não apresenta evidências de que o mercado atual de IA como um todo seja baseado em engano. As referências a empresas captando capital com avaliações de trilhões de dólares são contexto de mercado apresentado no relatório da TechCrunch, não prova de que esses negócios tenham deturpado sua tecnologia.

Essa distinção é importante. Os sistemas de IA são reais e cada vez mais úteis, mas a existência de tecnologia funcional não valida toda afirmação sobre as capacidades proprietárias, o crescimento, as margens ou a adoção por clientes de uma startup. Uma avaliação alta também não demonstra adequação entre produto e mercado.

A Theranos oferece um exemplo particularmente grave porque as supostas falhas afetaram decisões médicas e pacientes reais. Produtos de IA também podem operar em ambientes de alto risco, mas os riscos variam conforme o caso de uso. Um assistente de marketing defeituoso e um sistema usado para triagem médica não exigem os mesmos controles, evidências ou análises de responsabilidade.

Implicações para desenvolvedores e compradores corporativos

Para fundadores de IA, o alerta de Shultz eleva o nível exigido para comunicar o que é realmente proprietário. As empresas devem ser capazes de explicar quais partes de sua stack controlam, quais capacidades vêm de provedores externos de modelos, como as saídas são avaliadas e o que acontece quando o sistema falha.

Essa transparência também pode melhorar a captação de recursos. Uma empresa que divulga limitações, latência, custos do modelo, taxas de erro e riscos de dependência pode parecer menos impressionante em um pitch curto do que outra que faz alegações amplas, mas oferece aos investidores uma base mais clara para avaliar sua durabilidade.

Compradores corporativos enfrentam um desafio relacionado. Antes de implementar um produto de IA, as equipes de compras e técnicas devem testá-lo com dados internos representativos, verificar as práticas de segurança e privacidade do fornecedor, examinar as exigências de revisão humana e calcular os custos sob uso realista. Também devem perguntar se o fornecedor poderá apoiar o fluxo de trabalho caso seu modelo de fundação preferido mude.

A pergunta principal, portanto, não é simplesmente se uma demonstração de IA funciona. É se o produto tem desempenho consistente no ambiente do comprador, pode ser monitorado após a implementação e possui um modelo de negócios que não dependa inteiramente de premissas otimistas sobre preços de modelos ou expansão de clientes.

O que observar daqui para frente

Investidores e clientes devem observar divulgações mais detalhadas das startups de IA sobre a origem dos modelos, a metodologia dos benchmarks, a retenção de clientes, as margens brutas e a dependência de plataformas de terceiros. Avaliações independentes serão mais úteis do que demonstrações escolhidas pelos fundadores, sobretudo em aplicações regulamentadas ou sensíveis à segurança.

O mercado também deve acompanhar a evolução das práticas de diligência prévia. Solicitações de auditorias técnicas, avaliações reproduzíveis, clientes de referência, evidências de receita baseada em uso e históricos documentados de incidentes podem se tornar mais comuns à medida que o financiamento passe da experimentação para a implantação em larga escala.

Por fim, quaisquer alegações futuras envolvendo a Haemanthus ou outros empreendimentos associados a Holmes devem ser avaliadas separadamente e com base em evidências verificáveis. A existência de uma segunda fase para uma ex-executiva da Theranos não é, por si só, evidência de irregularidade, assim como um pitch convincente de IA não é evidência de fraude.

Perspectiva da Creati.ai

O alerta de Shultz é mais útil quando tratado como uma estrutura de diligência, e não como um veredito sobre a indústria de IA. O risco central não é que toda startup de IA seja enganosa; é que a complexidade técnica, o financiamento rápido e demonstrações persuasivas possam tornar alegações frágeis mais difíceis de contestar antes que o dinheiro e a responsabilidade avancem pela cadeia.

Para desenvolvedores e compradores de IA, a credibilidade dependerá cada vez mais de mostrar o trabalho: limites claros do sistema, avaliações repetíveis, relatos honestos de falhas e uma economia que sobreviva a mudanças na camada do modelo. Essas práticas não eliminam a fraude, mas tornam mais difícil que a qualidade da apresentação substitua as evidências.