El denunciante de Theranos Tyler Shultz advierte que el auge de la IA podría dificultar la detección del engaño

Tyler Shultz, el antiguo empleado de Theranos cuyas advertencias ayudaron a destapar la defectuosa tecnología de análisis de sangre de la empresa, pide a los inversores que examinen con mucha más atención las startups de IA. En una entrevista con The San Francisco Standard, Shultz afirmó que la dificultad de evaluar la inteligencia artificial podría ofrecer a fundadores deshonestos nuevas formas de engañar a quienes los financian.

Su advertencia llega mientras el auge de la IA sigue atrayendo enormes cantidades de capital y valoraciones, incluso para empresas que aún no han obtenido beneficios. El argumento no es que las empresas actuales de IA sean equivalentes a Theranos, sino que la complejidad técnica del sector puede dificultar que los inversores no especializados comprueben afirmaciones exageradas.

Por qué Shultz vuelve a comparar con Theranos

Shultz se incorporó a Theranos poco después de terminar la universidad y se convirtió en un denunciante clave tras descubrir que los dispositivos de análisis de sangre de la empresa producían resultados peligrosamente inexactos. Según el relato de TechCrunch sobre sus declaraciones y la historia de la empresa, las máquinas se utilizaban en establecimientos de Walgreens y generaban información errónea para pacientes reales.

Theranos alcanzó una valoración de unos 10.000 millones de dólares aunque su sistema propietario no realizaba la amplia gama de pruebas que afirmaba admitir. La empresa utilizaba sus propias máquinas solo para una parte de los análisis y dependía de equipos de terceros para otros resultados, informó TechCrunch.

Esa historia da contexto a la preocupación de Shultz por la IA. Sostuvo que los inversores ya no deberían considerar una breve reunión con un fundador como base suficiente para realizar una gran inversión personal. A su juicio, Theranos demostró cómo un modelo de captación de fondos que antes podía haber implicado cantidades relativamente pequeñas podía convertirse en un fracaso financiero e institucional mucho mayor.

La comparación también ha vuelto a cobrar fuerza gracias al documental «You Can See Everything», que sigue a la antigua directora ejecutiva de Theranos, Elizabeth Holmes, antes de que comience su condena de prisión. TechCrunch informó de que Holmes y su pareja, Billy Evans, también trabajan en Haemanthus, una empresa de diagnóstico descrita en la película como «Theranos 2.0» y que, según los informes, ha recaudado unos 20 millones de dólares. Las pruebas disponibles no demuestran que la nueva empresa haya repetido la conducta de Theranos.

El problema de la diligencia debida en la IA

El argumento central de Shultz es que las empresas de IA pueden ser especialmente difíciles de evaluar desde fuera. Un inversor quizá pueda inspeccionar un prototipo físico o solicitar pruebas científicas convencionales, pero evaluar una empresa de IA puede requerir acceso a datos de entrenamiento, arquitectura del modelo, metodología de pruebas, costes de inferencia, controles de seguridad y datos de uso de los clientes.

Advirtió específicamente de que puede ser difícil separar un producto verdaderamente distintivo de un «ChatGPT wrapper»: un servicio que añade una fina capa de software o de flujo de trabajo alrededor de un modelo existente. La diferencia importa porque un producto puede parecer técnicamente sofisticado aunque dependa en gran medida del modelo, la interfaz de programación de aplicaciones, los precios y la disponibilidad de otra empresa.

Para desarrolladores e inversores, la cuestión no es si los wrappers son intrínsecamente ilegítimos. Muchos productos útiles combinan modelos existentes con interfaces especializadas, datos propios, integración de procesos o funciones de cumplimiento normativo. La pregunta de diligencia es si la empresa tiene una ventaja defendible y si su economía sigue siendo viable si el proveedor del modelo subyacente cambia sus precios, condiciones de acceso o capacidades.

Un problema similar se aplica a las afirmaciones de rendimiento. Los resultados de un modelo pueden variar según el benchmark, el diseño de los prompts, el conjunto de evaluación, los revisores humanos y las condiciones operativas. Una demostración comercial puede mostrar que un sistema funciona en un escenario cuidadosamente elegido sin demostrar que sea fiable en todo el flujo de trabajo de un cliente.

Qué muestran las pruebas —y qué no muestran

La evidencia más sólida de esta historia es el relato de Shultz sobre los riesgos, tal como lo informó TechCrunch a partir de su entrevista con The San Francisco Standard. El artículo de Tech Buzz refleja de forma independiente la misma advertencia general, pero no proporciona texto adicional ni documentación de respaldo.

La información publicada no identifica una empresa de IA concreta que Shultz considere fraudulenta. Tampoco aporta pruebas de que el mercado actual de la IA en su conjunto se base en el engaño. Las referencias a empresas que recaudan capital con valoraciones de un billón de dólares son contexto de mercado presentado en el informe de TechCrunch, no una prueba de que esas empresas hayan tergiversado su tecnología.

La distinción es importante. Los sistemas de IA son reales y cada vez más útiles, pero la existencia de una tecnología operativa no valida todas las afirmaciones sobre las capacidades propietarias, el crecimiento, los márgenes o la adopción por parte de los clientes de una startup. Tampoco una valoración elevada demuestra un encaje entre producto y mercado.

Theranos ofrece un ejemplo especialmente grave porque los supuestos fallos afectaron a decisiones médicas y a pacientes reales. Los productos de IA también pueden operar en entornos de alto riesgo, pero los riesgos varían según el caso de uso. Un asistente de marketing defectuoso y un sistema empleado para el triaje médico no requieren los mismos controles, pruebas ni análisis de responsabilidad.

Implicaciones para desarrolladores y compradores empresariales

Para los fundadores de IA, la advertencia de Shultz eleva el nivel exigido para comunicar qué es realmente propietario. Las empresas deberían poder explicar qué partes de su stack controlan, qué capacidades proceden de proveedores externos de modelos, cómo se evalúan las respuestas y qué ocurre cuando el sistema falla.

Esa transparencia también puede mejorar la captación de fondos. Una empresa que informe de sus limitaciones, latencia, costes del modelo, tasas de error y riesgos de dependencia puede parecer menos impresionante en un pitch breve que otra que haga afirmaciones amplias, pero ofrece a los inversores una base más clara para juzgar su durabilidad.

Los compradores empresariales afrontan un reto relacionado. Antes de implementar un producto de IA, los equipos de compras y técnicos deberían probarlo con datos internos representativos, verificar las prácticas de seguridad y privacidad del proveedor, examinar las exigencias de revisión humana y calcular los costes con un uso realista. También deberían preguntar si el proveedor podrá respaldar el flujo de trabajo si cambia su modelo fundacional preferido.

Por tanto, la pregunta clave no es simplemente si una demostración de IA funciona. Es si el producto funciona de forma constante en el entorno del comprador, puede supervisarse después de su implementación y tiene un modelo de negocio que no dependa por completo de supuestos optimistas sobre los precios de los modelos o la expansión de clientes.

Qué observar a continuación

Los inversores y clientes deberían estar atentos a una divulgación más detallada por parte de las startups de IA sobre la procedencia de los modelos, la metodología de los benchmarks, la retención de clientes, los márgenes brutos y la dependencia de plataformas de terceros. Las evaluaciones independientes serán más útiles que las demostraciones seleccionadas por los fundadores, especialmente en aplicaciones reguladas o sensibles para la seguridad.

El mercado también debería observar cómo evolucionan las prácticas de diligencia debida. Las solicitudes de auditorías técnicas, evaluaciones reproducibles, clientes de referencia, pruebas de ingresos basados en el uso e historiales documentados de incidentes podrían hacerse más habituales a medida que la financiación pase de la experimentación al despliegue a gran escala.

Por último, cualquier afirmación futura relacionada con Haemanthus u otras iniciativas asociadas con Holmes debería evaluarse por separado y basándose en pruebas verificables. La existencia de una segunda etapa para una antigua ejecutiva de Theranos no es por sí misma una prueba de conducta indebida, del mismo modo que un discurso convincente sobre IA no es una prueba de fraude.

Perspectiva de Creati.ai

La advertencia de Shultz resulta más útil si se trata como un marco de diligencia y no como un veredicto sobre la industria de la IA. El riesgo central no es que todas las startups de IA sean engañosas, sino que la complejidad técnica, la financiación rápida y las demostraciones persuasivas pueden hacer más difícil cuestionar afirmaciones débiles antes de que el dinero y la responsabilidad pasen a las siguientes partes.

Para los desarrolladores y compradores de IA, la credibilidad dependerá cada vez más de mostrar el trabajo: límites claros del sistema, evaluaciones repetibles, informes honestos sobre fallos y una economía que resista los cambios en la capa del modelo. Estas prácticas no pueden eliminar el fraude, pero dificultan que la calidad de la presentación sustituya a las pruebas.