OpenAI는 허구의 싱크탱크를 중심으로 구성된 은밀한 영향력 공작에 연루된 것으로 보이는 ChatGPT 계정 묶음을 러시아에서 유래한 것으로 추정한 뒤 차단했다고 밝혔다. 이 작전은 AI가 생성한 소셜미디어 게시물, 가짜 신원, 그리고 러시아 친화적인 ‘주권’ 지수를 활용해 서방 플랫폼 전반에 정치적 서사를 퍼뜨렸다.

이 캠페인은 이스라엘 기반의 전문가 커뮤니티라고 자처한 International Burke Institute(IBI)를 홍보했다. OpenAI의 조사에 따르면 해당 조직의 웹사이트에는 복사되었거나 잘못 인용된 학술 자료가 포함돼 있었고, 관련 계정들은 X, LinkedIn, Facebook, Substack, Telegram에 콘텐츠를 게시했다. 회사는 실제로 관찰된 도달 범위는 제한적이었지만, 인프라는 더 넓은 배포를 염두에 둔 것으로 보인다고 말했다.

OpenAI가 발견한 내용

OpenAI에 따르면, 운영자들은 서비스가 해당 지역에서 제공되지 않기 때문에 VPN을 사용해 러시아에서 ChatGPT에 접속했다. 그들은 주로 영어 소셜미디어 댓글을 생성하기 위해 러시아어로 프롬프트를 입력했고, 출처를 드러낼 수 있는 언어적 단서를 제거하도록 모델에 지시했다.

주된 목적은 IBI 기사와 러시아를 우호적으로 평가하고 서방 국가들을 부정적으로 묘사한 ‘주권 지수’를 홍보하는 것이었다. 캠페인의 게시물은 IBI 브랜드가 붙은 계정과 일반 사용자처럼 보이는 계정을 통해 나타났다. 일부 운영자들은 실제 Substack 사용자에게 답글도 생성했으며, 그 상호작용을 활용해 사람들에게 IBI 채널을 팔로우하도록 유도했다.

이 작전은 영어권 홍보에만 그치지 않았다. OpenAI는 ‘Lahme Ente’(‘절름발이 오리’)라는 Telegram 채널에서 우크라이나, 유럽연합, 독일 연방정부를 비판하면서 러시아와의 긴밀한 관계를 옹호하는 독일어 게시물을 확인했다.

두 번째 운영자는 독일, 미국, 프랑스, 폴란드, 튀르키예에 초점을 맞춘 약 12개의 Telegram 채널용 로고를 생성했다. 그 운영자는 또한 각 채널 활동에 대한 러시아어 요약을 ChatGPT에 요청했다. OpenAI는 일부 채널이 때때로 IBI 콘텐츠를 홍보했으며, 최소 한 채널은 비원어민 영어의 흔적이 있음에도 미국 매체를 자처했다고 밝혔다.

증거와 그 한계

이 사건에서 가장 강력한 증거는 OpenAI 자체 조사와 계정 집행 조치에서 나온다. 회사는 해당 계정들을 특정 국가 기관이나 명명된 조직에 대한 공개적 법적 귀속이 아니라, 러시아에서 유래했을 가능성이 “매우 높다”고 설명한다. 이 구분은 중요하다. 증거는 러시아 연계 작전을 뒷받침하지만, 누가 최종적으로 지휘하거나 자금을 댔는지는 공개된 자료만으로는 확인되지 않는다.

OpenAI는 또, 2025년 9월부터 2026년 5월 사이에 게시된, 소위 전문가와 연결된 IBI 기사 36편 중 34편이 온라인의 다른 곳에서 복사된 것이라고 보고했다. 일부는 허위 저자 크레딧이 붙었다. Cambridge University Press 자료에서 가져온 것으로 보이는 한 기사에는 University of Nottingham 교수의 이름이 붙었고, Migration Policy Institute의 이민 관련 기사는 호주 식품화학 교수에게 귀속됐다.

회사는 일부 IBI 자료가 슬라브어 화자가 작성한 뒤 기계 번역된 것으로 보인다고 말했다. OpenAI는 독일의 ‘신호등 연립정부’를 언급하며 러시아어로 ‘신호등’을 뜻하는 말을 음역한 ‘Svetofor’의 사용을 지적했다. 이런 단서는 작전의 대외용 자료를 러시아어권 기원과 연결하는 데 도움이 되었지만, 이는 개별 저작의 결정적 증거라기보다 정황 증거다.

OpenAI는 이 캠페인이 이전에 보고되지 않았고, 자신들이 차단한 다른 러시아 연계 작전보다 더 정교하다고 평가했다. 회사의 조사 결과를 검토한 The Decoder는 개별 게시물의 조회 수가 적었고 IBI 공식 계정의 구독자 수도 적었다고 보도했다. 연결된 Telegram 채널은 더 컸으며, 각각 1만~2만 명의 팔로워가 있는 것으로 알려졌다. 이 수치는 보도와 OpenAI의 평가에서 나온 것이며, 활동적이거나 실제 사용자에 대한 독립적 측정은 아니다.

OpenAI는 이 캠페인을 6단계 Brookings Breakout Scale에서 3단계로 분류했다. 이는 여러 플랫폼으로 확산되었고 실제 사용자에게 도달하기 시작했다는 초기 징후가 있다는 뜻이다. 이는 캠페인 전개에 대한 평가이지, 설득력이나 선거 영향력을 측정하는 것은 아니다.

ChatGPT가 작전에서 맡은 역할

이 캠페인에서의 ChatGPT 사용은 운영적 성격이었으며, IBI 웹사이트의 연구 자료를 만드는 데 초점이 맞춰져 있지 않았다. OpenAI는 모델이 소셜미디어 게시물, 답글, 요약, 그리고 채널 로고 같은 일부 시각 자산을 생성했다고 밝혔다. 회사의 검토에 따르면, 웹사이트의 복사 기사와 ‘주권’ 보고서는 OpenAI 모델이 생성한 것이 아니었다.

이 구분은 개발자와 플랫폼 운영자에게 중요하다. 생성형 AI가 완전한 선전 출판물을 만들지 않아도 작전은 자동화의 혜택을 볼 수 있었다. 메시지 변형을 만들고, 다양한 언어와 플랫폼에 맞게 콘텐츠를 조정하며, 계정과 채널 네트워크를 유지하는 데 도움을 줬다. 그 결과, 기본 주장과 출처 자료가 사기라 하더라도 정기적인 배포에 필요한 노동이 줄어든다.

OpenAI는 2024년에 ‘Bad Grammar’라는 러시아 네트워크를 이미 확인한 바 있으며, 이 네트워크는 러시아, 우크라이나, 발트해 국가들에 대한 정치적 댓글을 Telegram에서 생성하는 데 자사 모델을 사용했다. 회사는 또 2025년 독일 연방선거를 앞두고 ChatGPT를 사용해 독일어 자료를 생산한 후속 캠페인 ‘Operation Helgoland Bite’도 보고했다.

이 사례들은 OpenAI가 볼 수 있었던 활동만 다룬다. The Decoder는 운영자들이 다른 제공업체나 오픈웨이트 모델도 사용할 수 있어, 회사의 집행 데이터는 AI 보조 영향력 활동의 불완전한 시야라고 지적했다. 따라서 OpenAI의 계정 차단은 한 서비스에서의 방해를 보여줄 뿐, 더 넓은 전술 자체를 봉쇄한 것은 아니다.

AI 플랫폼과 기업에 대한 시사점

AI 기업에게 이 사건은 악용 모니터링이 각 생성 요청을 개별적으로 취급하는 대신, 프롬프트, 계정, 외부 플랫폼 전반의 행동을 살펴봐야 한다는 점을 보여준다. 정치 메시지 번역, 채널 활동 요약, 언어적 표식 제거 요청은 각각 단독으로는 무해해 보일 수 있다. 그러나 결합되면 조직적인 기만을 드러낼 수 있다.

소셜 플랫폼에는 개별 게시물의 사실 여부뿐 아니라 유통 네트워크를 평가해야 한다는 점을 상기시킨다. ChatGPT가 생성한 메시지는 그 자체만으로는 유해성 분류가 어려울 수 있다. 더 강한 신호는 새 조직의 반복적 홍보, 동기화된 게시, 조작된 약력, 복사된 연구, 그리고 사실상 증폭만 하는 계정일 수 있다.

기업의 AI 팀은 보다 좁지만 실용적인 교훈을 얻어야 한다. 생성 도구가 게시 워크플로에 연결될 때 출처 및 신원 통제가 중요하다. 로깅, 속도 제한, 정치적 또는 평판 관련 콘텐츠 검토, 플랫폼 간 반복 패턴 감지는 내부 자동화가 은밀한 접촉에 재활용될 가능성을 줄여준다. 이런 통제만으로 운영자의 의도를 판별할 수는 없지만, 악용을 더 잘 보이게 할 수 있다.

다음에 주목할 점

당장의 신호는 OpenAI 또는 다른 플랫폼이 International Burke Institute와 연결된 추가 계정, 도메인 또는 채널을 발견하는지 여부다. 연구자들은 또한 Telegram 청중이 진짜 팔로워인지, 조정된 계정인지, 아니면 휴면 인프라인지도 살펴봐야 한다.

두 번째 질문은 유사한 작전들이 오픈웨이트 모델이나 악용 보고 기능이 더 약한 서비스로 이동하고 있는지다. 이는 플랫폼 차원의 차단이 캠페인을 실질적으로 늦추는지, 아니면 운영자들을 다른 도구로 밀어내는지 시험하게 된다.

마지막으로 조사관들은 더 정교한 현지화, 즉 자연스러운 번역, 신뢰할 수 있는 저자 프로필, 특정 정치 공동체에 맞춘 콘텐츠를 주시할 것이다. 현재 작전은 눈에 띄는 약점을 보였지만, OpenAI의 경고는 그 약점이 수정되기 전에 인프라가 더 커질 수 있었다는 점이다.

Creati.ai 관점

이번 사건은 ChatGPT가 독자적으로 영향력을 창출했다기보다, 운영자들이 범용 모델을 더 큰 기만 체계 안에 끼워 넣었다는 데 가깝다. 가짜 기관, 도난당한 연구, 조작된 신원, 배포 채널이 캠페인의 신뢰성과 도달 범위를 제공했고, AI는 지원 콘텐츠를 만들고 적응시키는 비용을 낮췄다.

AI 산업에 지속적인 과제는 귀속과 조정이다. 계정 차단은 한 플랫폼에서 한 캠페인을 제거할 수 있지만, 효과적인 방어를 위해서는 모델 제공업체, 소셜 네트워크, 연구자, 조사관의 협력이 필요하며 증거에 대한 명확한 경계도 유지해야 한다. OpenAI의 보고서는 이 워크플로를 자세히 드러냈다는 점에서 중요하지만, 그 자체의 조사 결과는 단일 제공업체가 AI 보조 영향력 공작의 전체 규모를 측정할 수 없는 이유도 보여준다.