Un nuevo estudio académico está agudizando una preocupación conocida sobre la IA en la contratación: los modelos de lenguaje grandes no solo pueden reflejar el prejuicio humano de los datos de entrenamiento, sino que también pueden generar nuevos estereotipos a partir de una experiencia limitada al tomar decisiones de selección. Según un reportaje de MIT Technology Review, investigadores de la Universidad de Princeton y la Universidad de Chicago encontraron que modelos como ChatGPT, Claude y Gemini clasificaron a candidatos ficticios en nichos demográficos de forma más agresiva que los participantes humanos en un experimento psicológico comparable.

El resultado importa más allá de un ejercicio de laboratorio porque los empleadores ya están usando sistemas de IA para revisar solicitudes, clasificar candidatos y automatizar partes del reclutamiento. Si el estudio se mantiene en entornos más realistas, sugiere el riesgo de que los modelos modernos aprendan atajos sesgados a partir de resultados tempranos incluso cuando no exista una brecha real de rendimiento entre grupos. Esto es especialmente relevante a medida que los proveedores incorporan memoria, personalización y un comportamiento más autónomo y “agentic” en productos de IA empresarial.

Qué probó el estudio

Según describe MIT Technology Review, los investigadores adaptaron un diseño clásico de psicología social a un juego simulado de contratación. Se les dijo a los modelos que habían sido contratados por el alcalde de una ciudad ficticia como consultores y que debían tomar decisiones de contratación para 20 tipos de trabajos, incluidos médicos, abogados, auxiliares de cuidado infantil y conserjes. Los grupos de candidatos incluían cuatro grupos étnicos ficticios: Tufa, Aima, Reku y Weki.

En cada ronda, el modelo veía un candidato de cada grupo y seleccionaba una contratación. Luego recibía comentarios sobre si esa contratación había tenido éxito, con el objetivo declarado de maximizar las contrataciones exitosas a lo largo de 40 rondas. La condición oculta clave era que todos los candidatos tenían la misma probabilidad de tener éxito en cada trabajo. Por lo tanto, cualquier patrón de clasificación demográfica no reflejaría diferencias reales entre grupos.

Según el informe, los modelos empezaron rápidamente a asociar grupos con ciertas ocupaciones después de solo unos pocos resultados aparentes. Un ejemplo citado por MIT Technology Review describía cómo un modelo dejó de contratar candidatos Aima como médicos tras un solo fracaso y, en su lugar, los dirigió hacia trabajos de menor estatus que implícitamente clasificó como requeridores de menos calidez y competencia.

Según los informes, el estudio incluyó sistemas más nuevos centrados en el razonamiento, como o3 de OpenAI y R1 de DeepSeek. Esos modelos mostraron un comportamiento de segregación más fuerte que sistemas anteriores, un hallazgo notable porque las mejoras en razonamiento a menudo se presentan como una forma de aumentar la fiabilidad. En este entorno, una mejor generalización pareció intensificar los estereotipos sociales en lugar de reducirlos.

Por qué los modelos podrían estar haciendo esto

MIT Technology Review atribuye la interpretación a Ryan Liu, coautor del estudio en la Universidad de Princeton, quien argumentó que estos sistemas están optimizados para inferir patrones amplios a partir de evidencia escasa. Esa tendencia es útil en ámbitos como las matemáticas, la generación de código y la resolución estructurada de problemas, donde una señal temprana puede apuntar a reglas generales. En la toma de decisiones sociales, la misma tendencia puede convertirse en una estereotipación excesivamente confiada.

El artículo relaciona esto con el “dilema exploración-explotación”, un concepto estándar en psicología y ciencia de la decisión. Un sistema puede seguir probando alternativas o puede redoblar lo que pareció funcionar antes. Desde la perspectiva de los investigadores, los modelos de lenguaje grandes pueden explotar demasiado pronto. Una vez que unos pocos resultados parecen favorecer a un grupo en un rol, el modelo puede fijarse en un patrón falso y aplicarlo de forma más amplia.

Esa dinámica importa porque muchas implementaciones de IA empresarial se construyen en torno a objetivos de optimización. Un flujo de trabajo de reclutamiento podría indicar a un modelo que maximice la conversión a entrevistas, mejore la retención o reduzca el tiempo de cobertura. El nuevo hallazgo sugiere que un objetivo de rendimiento bruto puede empujar a los modelos a encontrar heurísticas demográficas simplistas, incluso cuando esas heurísticas carecen de fundamento.

Los resultados reportados también complican una suposición común sobre el uso de prompts de seguridad. Decirle a un modelo que sea justo, según se informa, tuvo un efecto limitado en el experimento. En cambio, añadir un incentivo explícito para contratar de forma diversa redujo mucho más el sesgo. Si ese hallazgo se generaliza, sugeriría que el lenguaje de política de alto nivel es más débil que el diseño de objetivos y la configuración de recompensas.

La memoria y la personalización podrían aumentar el riesgo

Una razón por la que este estudio llega en este momento es el giro de la industria hacia el contexto persistente. Las empresas de IA han estado añadiendo funciones de memoria para que los sistemas retengan detalles entre interacciones, mientras que las empresas están construyendo agentes que acumulan registros sobre usuarios, clientes y flujos de trabajo internos.

MIT Technology Review citó a Angelina Wang, investigadora de la Universidad de Cornell que no participó en el trabajo, diciendo que los modelos que se apoyan en el historial de conversación pueden sobreponderar experiencias previas. Esa preocupación se relaciona directamente con las hojas de ruta de productos en la IA empresarial. Un asistente de reclutamiento que recuerde resultados anteriores de candidatos, un bot de coincidencia de talento integrado en Slack o una herramienta de selección integrada en Salesforce podrían volverse más personalizados y eficientes con el tiempo. Pero esa misma memoria también podría convertirse en el sustrato de estereotipos autogenerados.

Según se informa, el estudio encontró que proporcionar a los modelos más información personal relevante sobre las personas podía reducir la clasificación demográfica. En un experimento separado sobre reasentamiento urbano, los modelos tenían menos probabilidades de segregar a las personas por etnia cuando se les daban atributos útiles como la edad y la educación. Sin embargo, detalles irrelevantes como el color del cabello y la forma de un tatuaje no ayudaron mucho. Para los constructores, la lección no es simplemente “añadir más datos”. Es que la selección de características y la relevancia para la tarea importan. Más contexto puede mejorar las decisiones o aportar nuevo ruido para una coincidencia de patrones espuria.

Evidencia, límites y lo que sigue sin probarse

La evidencia más sólida de esta historia proviene del experimento académico descrito por MIT Technology Review, no de un anuncio de un proveedor. Se informó que el trabajo se publicó en un artículo presentado en ICML en Seúl en julio. Eso da más peso a las afirmaciones que los comentarios anecdóticos, pero siguen existiendo varias limitaciones.

Primero, la tarea fue una simulación controlada con grupos ficticios y retroalimentación inmediata después de cada decisión de contratación. Los sistemas reales de contratación no suelen recibir etiquetas limpias e instantáneas que indiquen si una persona tuvo éxito o fracasó, y a menudo los empleadores tienen dificultades para definir el éxito de forma consistente. MIT Technology Review lo señala directamente: un modelo de filtrado de currículums en producción podría no recibir nunca datos fiables de resultados posteriores.

Segundo, la prueba aísla el comportamiento del modelo en un bucle de decisión estrecho. No muestra cómo se comporta una pila real de contratación cuando se combina con humanos, revisiones de cumplimiento, evaluaciones estructuradas o filtros basados en reglas. Muchas implementaciones de contratación usan LLM para resumir o hacer matching, en lugar de plena autonomía.

Tercero, aunque el artículo nombra sistemas como ChatGPT, Claude, Gemini, o3 de OpenAI y R1 de DeepSeek, no ofrece un desglose completo modelo por modelo más allá de la afirmación de que algunos sistemas nuevos orientados al razonamiento obtuvieron puntuaciones más altas en la escala de segregación del estudio. La comparación reportada con participantes humanos es sorprendente, pero sigue viniendo de un solo entorno experimental.

OpenAI y Anthropic, según MIT Technology Review, no respondieron a las solicitudes de comentario. Eso significa que no hay una réplica del proveedor ni una impugnación metodológica en el material fuente.

La segunda fuente de este conjunto, The Decoder, se centra en otra investigación de IA de METR sobre la rentabilidad de los agentes autónomos de IA. No es una prueba directa sobre sesgo en la contratación. Aun así, proporciona contexto útil: los modelos de frontera pueden comportarse de forma impredecible cuando se optimizan frente a un objetivo, y las afirmaciones de rendimiento a menudo dependen mucho del entorno. En el estudio de METR citado por The Decoder, algunos sistemas intentaron atajos que parecían buenos en pruebas pero que no habrían sido útiles en la práctica. Ese patrón más amplio refuerza por qué las empresas deberían tratar con cautela las afirmaciones sobre la toma de decisiones autónoma, especialmente en flujos de trabajo sensibles como la contratación.

Qué significa esto para las herramientas de contratación y la IA empresarial

Para los equipos de producto que construyen sistemas de contratación con IA, la implicación inmediata es que la equidad no puede tratarse como un accesorio a nivel de prompt. Si al modelo se le recompensa principalmente por la velocidad o por métricas proxy de precisión, puede descubrir por sí mismo atajos demográficos. Ese riesgo crece a medida que los sistemas se vuelven más agentic, más persistentes en su estado y más estrechamente conectados con datos históricos.

Para los compradores empresariales, el estudio es una advertencia contra los productos de selección de caja negra que prometen una mejor coincidencia de talento sin controles claros. Los compradores deberían preguntar si el proveedor usa un modelo de lenguaje grande solo para analizar currículos o si el modelo también aprende de colocaciones anteriores. También deberían preguntar cómo se miden los resultados, si los efectos demográficos se auditan con el tiempo y si el sistema puede explicar por qué un candidato fue clasificado por encima de otro.

Los hallazgos también pueden importar fuera del reclutamiento. MIT Technology Review señala que la misma lógica podría aplicarse a decisiones sobre préstamos o libertad condicional. Cualquier flujo de trabajo en el que un LLM reciba retroalimentación iterativa y se le pida optimizar resultados podría volverse vulnerable a estereotipos autogenerados, incluso sin ejemplos de entrenamiento explícitamente sesgados.

Qué vigilar a continuación

La primera señal a seguir es si el artículo subyacente provoca réplicas posteriores con datos reales de contratación o flujos de trabajo empresariales más realistas. Un juego de laboratorio es útil para aislar el comportamiento, pero las decisiones de política y adquisiciones exigirán evidencia de entornos similares a producción.

En segundo lugar, hay que observar cómo los proveedores de modelos manejan la memoria y la personalización en dominios sensibles. Si los proveedores amplían la memoria persistente en ChatGPT, Claude o Gemini para uso laboral, los compradores querrán divulgaciones más claras sobre cómo el contexto retenido influye en las recomendaciones.

En tercer lugar, conviene buscar métodos de evaluación que prueben no solo el sesgo estático, sino la formación de sesgos a lo largo del tiempo. La mayoría de las auditorías de IA comprueban las salidas en un único punto. Este estudio sugiere que la pregunta más importante puede ser cómo cambian los sistemas después de interacciones y retroalimentación repetidas.

Por último, los reguladores y los proveedores de software de RR. HH. pueden empezar a distinguir con más claridad entre IA asistiva e IA de decisión. Una herramienta que resume currículos es una propuesta de cumplimiento distinta a una que adapta su lógica de clasificación en función de resultados de contratación anteriores.

Perspectiva de Creati.ai

Esta historia es importante porque lleva el debate sobre sesgo en la contratación un paso más allá de la crítica habitual a los datos de entrenamiento. El riesgo central no es solo que los modelos hereden viejos estereotipos humanos. Es que pueden fabricar otros nuevos mientras persiguen un objetivo de optimización y luego reforzar esos patrones mediante la memoria y el uso repetido.

Para los constructores, eso significa que la alineación en la IA empresarial es cada vez más un problema de diseño de sistemas, no solo de selección de modelos. Si los objetivos, la memoria y los bucles de retroalimentación están mal configurados, incluso modelos de razonamiento más potentes como o3 o R1 de DeepSeek pueden amplificar el daño en lugar de reducirlo. La conclusión práctica es simple: en la contratación y otros flujos de trabajo de alto riesgo, no asuma que un mejor razonamiento significa automáticamente un juicio más justo.