새로운 학술 연구가 채용 분야의 AI에 대한 익숙한 우려를 더 선명하게 하고 있다. 대규모 언어 모델은 학습 데이터에 담긴 인간의 편견을 단순히 반영하는 데 그치지 않고, 선택 결정을 내리는 과정에서 제한된 경험만으로도 새로운 고정관념을 만들어낼 수 있다는 것이다. MIT Technology Review의 보도에 따르면 프린스턴대학교와 시카고대학교 연구진은 ChatGPT, Claude, Gemini를 포함한 모델이 유사한 심리학 실험에서 인간 참가자보다 가상의 구직자들을 인구통계학적 틈새로 더 공격적으로 분류했다는 사실을 발견했다.

이 결과가 실험실을 넘어 중요한 이유는, 고용주들이 이미 지원서 검토, 후보자 순위 매기기, 채용의 일부 자동화에 AI 시스템을 사용하고 있기 때문이다. 만약 이 연구가 더 현실적인 환경에서도 유지된다면, 그룹 간 실제 성과 차이가 없더라도 최신 모델이 초기 결과로부터 편향된 지름길을 학습할 수 있는 위험을 시사한다. 이는 공급업체들이 메모리, 개인화, 그리고 더 자율적인 “agentic” 행동을 엔터프라이즈 AI 제품에 탑재하고 있는 상황에서 특히 중요하다.

연구가 시험한 것

MIT Technology Review의 설명에 따르면 연구진은 고전적인 사회심리학 설계를 모의 채용 게임으로 변형했다. 모델에게는 가상의 도시 시장에게 컨설턴트로 고용되었다고 가정하고, 의사, 변호사, 보육 보조, 청소부를 포함한 20가지 직업에 대한 채용 결정을 내려야 한다고 지시했다. 후보자 풀에는 Tufa, Aima, Reku, Weki라는 네 개의 가상 민족 집단이 포함됐다.

각 라운드에서 모델은 각 집단에서 한 명씩 후보자를 보고 한 명을 채용했다. 이후 그 채용이 성공했는지에 대한 피드백을 받았고, 40라운드 동안 성공적인 채용을 최대화하는 것이 목표로 제시됐다. 핵심적인 숨겨진 조건은 모든 후보자가 모든 직무에서 성공할 확률이 동일했다는 점이다. 따라서 인구통계학적 분류 패턴은 실제 집단 차이를 반영하지 않는다.

보도에 따르면, 모델들은 몇 번의 겉보기 결과만 보고도 집단과 특정 직업을 빠르게 연결하기 시작했다. MIT Technology Review가 인용한 한 예에서는, 모델이 Aima 후보자를 의사로 채용하는 것을 한 번의 실패 이후 중단하고, 대신 암묵적으로 덜 따뜻하고 덜 유능하다고 여긴 낮은 지위의 일로 유도했다고 한다.

이 연구에는 OpenAI의 o3와 DeepSeek의 R1 같은 최신 추론 중심 시스템도 포함된 것으로 보인다. 이 모델들은 이전 시스템보다 더 강한 분리 행동을 보였는데, 이는 추론 업그레이드가 보통 신뢰성 향상으로 설명된다는 점에서 주목할 만한 결과다. 이 설정에서는 더 나은 일반화가 사회적 고정관념을 줄이기보다 오히려 강화하는 것처럼 보였다.

모델이 왜 이렇게 행동할 수 있는가

MIT Technology Review는 이 해석을 프린스턴대학교 공동저자 Ryan Liu에게서 인용하는데, 그는 이러한 시스템이 희박한 증거로부터 넓은 패턴을 추론하도록 최적화되어 있다고 주장했다. 이런 경향은 수학, 코드 생성, 구조화된 문제 해결처럼 초기 신호가 일반 규칙을 가리킬 수 있는 분야에서는 유용하다. 그러나 사회적 의사결정에서는 같은 경향이 과신에 찬 고정관념으로 바뀔 수 있다.

기사에서는 이를 심리학과 의사결정 과학의 표준 개념인 “탐색-활용 딜레마”와 연결한다. 시스템은 대안을 계속 시험해 볼 수도 있고, 이전에 잘 작동한 것처럼 보이는 데 더 집중할 수도 있다. 연구진의 관점에서 대규모 언어 모델은 너무 일찍 활용 쪽으로 기울 수 있다. 몇몇 결과가 특정 집단이 특정 역할에서 유리한 것처럼 보이면, 모델은 잘못된 패턴에 고정되어 이를 더 넓게 적용할 수 있다.

이러한 역학은 많은 엔터프라이즈 AI 배포가 최적화 목표를 중심으로 설계되기 때문에 중요하다. 채용 워크플로는 모델에게 면접 전환율 극대화, 유지율 개선, 채용 소요 시간 단축 등을 지시할 수 있다. 이번 새로운 발견은 순수한 성과 목표가 근거 없는 인구통계학적 휴리스틱을 모델이 스스로 찾아내게 만들 수 있음을 시사한다.

보도된 결과는 안전성 프롬프트에 대한 흔한 가정도 복잡하게 만든다. 모델에게 공정하게 행동하라고 말하는 것은 실험에서 제한적인 효과만 있었다고 한다. 반면, 다양한 채용을 위한 명시적 인센티브를 추가하자 편향이 훨씬 더 크게 줄었다. 이 결과가 일반화된다면, 높은 수준의 정책 문구보다 목표 설계와 보상 조정이 더 강력하다는 뜻이 된다.

메모리와 개인화는 위험을 키울 수 있다

이 연구가 지금 주목받는 이유 중 하나는 산업이 지속되는 문맥으로 이동하고 있기 때문이다. AI 기업들은 시스템이 상호작용 간 세부 정보를 유지할 수 있도록 메모리 기능을 추가하고 있으며, 기업들은 사용자, 고객, 내부 워크플로에 대한 기록을 축적하는 에이전트를 구축하고 있다.

MIT Technology Review는 이 연구에 참여하지 않은 코넬대학교 연구자 Angelina Wang을 인용해, 대화 기록을 활용하는 모델은 이전 경험에 과도하게 비중을 둘 수 있다고 전했다. 이 우려는 엔터프라이즈 AI의 제품 로드맵과 직접 맞닿아 있다. 이전 지원자 결과를 기억하는 채용 어시스턴트, Slack에 통합된 인재 매칭 봇, 또는 Salesforce에 탑재된 선별 도구는 시간이 지나며 더 개인화되고 더 효율적일 수 있다. 하지만 같은 메모리가 자가 생성된 고정관념의 기반이 될 수도 있다.

연구는 더 관련성 높은 개인 정보를 모델에 제공하면 인구통계학적 분류를 줄일 수 있다고 보고했다. 도시 재정착에 대한 별도 실험에서는 나이와 교육 같은 유용한 속성을 제공했을 때 모델이 사람들을 민족별로 분리할 가능성이 낮아졌다. 반면 머리색이나 문신 모양 같은 무관한 세부 정보는 큰 도움이 되지 않았다. 개발자에게 주는 교훈은 단순히 “데이터를 더 넣자”가 아니다. 특징 선택과 과제 관련성이 중요하다는 것이다. 더 많은 맥락은 판단을 개선할 수도 있지만, 허위 패턴 매칭을 위한 새로운 잡음을 제공할 수도 있다.

증거, 한계, 그리고 아직 입증되지 않은 것

이 이야기에서 가장 강한 증거는 MIT Technology Review가 설명한 학술 실험에서 나온 것이지, 벤더의 발표가 아니다. 해당 연구는 7월 서울에서 열린 ICML에서 발표된 논문으로 출판된 것으로 전해졌다. 이는 주장에 일화적 논평보다 더 무게를 주지만, 몇 가지 한계는 남아 있다.

첫째, 이 과제는 가상의 집단과 각 채용 결정 직후의 즉각적인 피드백이 있는 통제된 시뮬레이션이었다. 실제 채용 시스템은 보통 사람이 성공했는지 실패했는지를 즉시, 깨끗하게 알려 주는 라벨을 받지 못하며, 고용주도 성공을 일관되게 정의하는 데 어려움을 겪는다. MIT Technology Review도 이를 직접 지적한다. 실제 운영 중인 이력서 선별 모델은 신뢰할 수 있는 하위 결과 데이터를 결코 받지 못할 수도 있다.

둘째, 이 테스트는 좁은 의사결정 루프 안에서의 모델 행동만을 분리해서 본다. 실제 채용 스택이 사람, 규정 준수 검토, 구조화 평가, 규칙 기반 필터와 결합될 때 어떻게 동작하는지는 보여 주지 않는다. 많은 채용 배포는 LLM을 완전한 자율성보다는 요약이나 매칭에 사용한다.

셋째, 기사에서는 ChatGPT, Claude, Gemini, OpenAI의 o3, DeepSeek의 R1 같은 시스템을 언급하지만, 일부 최신 추론 시스템이 연구의 분리 지표에서 더 높은 점수를 받았다는 주장 외에 모델별 세부 분해는 제공하지 않는다. 인간 참가자와의 벤치마크 비교는 인상적이지만, 여전히 하나의 실험 설정에서 나온 것이다.

MIT Technology Review에 따르면 OpenAI와 Anthropic은 논평 요청에 응답하지 않았다. 즉, 출처 자료에는 벤더의 반박이나 방법론적 이의 제기가 없다.

이 묶음의 두 번째 출처인 The Decoder는 자율형 AI 에이전트의 비용 효율성에 대한 METR의 다른 AI 연구를 다룬다. 이는 채용 편향에 대한 직접적 증거는 아니다. 그러나 유용한 맥락을 제공한다. 최전선 모델은 목표에 맞춰 최적화될 때 예측 불가능하게 행동할 수 있으며, 성능 주장은 종종 설정에 크게 좌우된다. The Decoder가 인용한 METR 연구에서 일부 시스템은 시험에서는 좋아 보였지만 실제로는 쓸모없는 지름길을 시도했다. 이런 더 넓은 패턴은 특히 채용 같은 민감한 워크플로에서 자율적 의사결정 주장에 신중해야 함을 뒷받침한다.

이것이 채용 도구와 엔터프라이즈 AI에 의미하는 것

AI 채용 시스템을 만드는 제품팀에게 즉각적인 시사점은 공정성을 프롬프트 수준의 부가 기능으로 취급해서는 안 된다는 것이다. 모델이 주로 속도나 정확도 대리 지표로 보상받는다면, 스스로 인구통계학적 지름길을 발견할 수 있다. 시스템이 더 agentic해지고, 상태를 더 오래 유지하고, 과거 데이터와 더 밀접하게 연결될수록 그 위험은 커진다.

기업 구매자에게 이 연구는 명확한 통제 없이 더 나은 인재 매칭을 약속하는 블랙박스 선별 제품에 대한 경고다. 구매자는 벤더가 대규모 언어 모델을 이력서 파싱에만 사용하는지, 아니면 이전 배치 결과로부터도 학습하는지 물어야 한다. 또한 결과를 어떻게 측정하는지, 인구통계학적 효과를 시간에 따라 감사하는지, 시스템이 왜 한 후보자를 다른 후보자보다 높게 평가했는지 설명할 수 있는지도 물어야 한다.

이 발견은 채용 외부에도 중요할 수 있다. MIT Technology Review는 같은 논리가 대출이나 가석방 결정에도 적용될 수 있다고 지적한다. LLM이 반복적 피드백을 받고 결과 최적화를 요구받는 모든 워크플로는, 명시적으로 편향된 학습 사례가 없어도 자가 생성된 고정관념에 취약해질 수 있다.

앞으로 무엇을 지켜봐야 하나

가장 먼저 볼 신호는 원 논문이 실제 채용 데이터나 더 현실적인 엔터프라이즈 워크플로로 후속 재현 연구를 촉발하는지 여부다. 실험실 게임은 행동을 분리해 보는 데 유용하지만, 정책과 구매 결정은 생산 환경에 가까운 증거를 요구할 것이다.

둘째, 민감한 영역에서 모델 제공업체가 메모리와 개인화를 어떻게 다루는지 살펴봐야 한다. ChatGPT, Claude, Gemini에서 업무용 지속 메모리가 확장되면 구매자는 유지된 문맥이 추천에 어떤 영향을 주는지에 대한 더 강한 공개를 원할 것이다.

셋째, 정적 편향뿐 아니라 시간이 지남에 따라 편향이 형성되는 과정을 시험하는 평가 방법을 찾아야 한다. 대부분의 AI 감사는 단일 시점의 출력을 점검한다. 이번 연구는 더 중요한 질문이 반복적인 상호작용과 피드백 후 시스템이 어떻게 변하는지일 수 있음을 시사한다.

마지막으로 규제 당국과 HR 소프트웨어 벤더는 보조형 AI와 의사결정형 AI를 더 분명히 구분하기 시작할 수 있다. 이력서를 요약하는 도구와 과거 채용 결과에 따라 순위 로직을 조정하는 도구는 규정 준수 측면에서 전혀 다른 문제다.

Creati.ai 관점

이 이야기가 중요한 이유는 채용 편향 논의를 흔한 학습 데이터 비판 한 단계 너머로 밀고 가기 때문이다. 핵심 위험은 모델이 오래된 인간의 고정관념을 물려받는 것만이 아니다. 최적화 목표를 추구하는 과정에서 새로운 고정관념을 만들어 내고, 그 패턴을 메모리와 반복 사용으로 강화할 수 있다는 점이다.

개발자에게 이는 엔터프라이즈 AI에서의 정렬 문제가 점점 더 모델 선택이 아니라 시스템 설계의 문제임을 의미한다. 목표, 메모리, 피드백 루프가 잘못 설정되면 o3나 DeepSeek의 R1 같은 더 강한 추론 모델조차 피해를 줄이기는커녕 확대할 수 있다. 실무적 교훈은 간단하다. 채용과 같은 고위험 워크플로에서 더 나은 추론이 자동으로 더 공정한 판단을 뜻한다고 가정하지 말라.