합성 기만(Synthetic Deception)의 급증: 영국 중앙은행(Bank of England), AI 생성 사기에 경고

생성형 AI(Generative AI)가 초현실적인 미디어 제작을 대중화한 시대에, 디지털 현실과 정교한 사기 사이의 경계가 점점 더 모호해지고 있습니다. 영국 중앙은행(Bank of England, BoE)은 최근 앤드루 베일리(Andrew Bailey) 총재를 표적으로 삼은 조작된 동영상과 이미지가 온라인에 유포된 사건 이후, AI가 생성한 사기 광고의 확산에 대해 엄중한 경고를 발표했습니다.

디지털 문해력이 인공지능의 급격한 진화를 따라가지 못하면서, 기관과 개인 모두 딥페이크(deepfake) 기술을 사용하여 허위 신뢰를 구축하거나 대중의 불신을 심는 악의적인 행위자들의 표적이 되고 있습니다. 이러한 현상은 국가 금융 보안과 현대의 사이버 보안(cybersecurity) 위협이 교차하는 지점에서 중대한 전환점을 맞이했음을 보여줍니다.

공격의 해부: 딥페이크가 경제 관리를 표적으로 삼을 때

중앙은행이 강조한 최근 사건에는 앤드루 베일리(Andrew Bailey) 총재와 리폼 영국(Reform UK)당 대표 나이젤 패라지(Nigel Farage)와 같은 저명한 정치인들 사이의 조작된 언쟁을 묘사한 위조 영상이 포함되었습니다. 소셜 미디어 플랫폼에 유포된 이 동영상들은 고급 딥페이크 기술을 사용하여 오디오 및 시각적 패턴을 조작함으로써 실제 분쟁과 같은 설득력 있는 위장술을 만들어냈습니다.

영국 중앙은행 입장에서 이러한 허위 정보가 미치는 영향은 단순한 평판 훼손을 넘어섭니다. AI가 중앙은행 관계자를 모방하는 데 악용될 경우, 이는 시장 안정성에 체계적인 위험을 초래합니다. 투자자와 일반 대중이 이러한 콘텐츠에 속을 경우, 경제 기능을 유지하는 데 필수적인 대중의 신뢰를 훼손하고 불필요한 시장 변동성을 유발하는 방식으로 반응할 수 있습니다.

AI 기반 허위 정보의 주요 위험

• 기관에 대한 신뢰 저하: 고위 관료의 이미지를 왜곡하면 대중이 공식적인 의사소통을 식별하기 어려워집니다.
• 금융 사기: 사기꾼들은 종종 딥페이크(deepfakes)를 가짜 투자 웹사이트와 결합하여 피해자들이 민감한 금융 정보를 제공하도록 유도합니다.
• 시장 조작: 조작된 발표는 국지적인 시장 변화를 유발할 수 있으며, 이는 조작된 뉴스 주기를 바탕으로 시장을 선취매하거나 공매도하는 악의적인 행위자들에게 이득을 줍니다.
• 급속한 확산: 소셜 미디어 알고리즘은 종종 높은 참여도를 유도하는 선정적인 콘텐츠를 우선시하므로, AI 생성 사기가 팩트체크가 개입하기 전에 더 빠르게 확산되도록 합니다.

기술적 과제: 합성된 허구로부터 진실 판별하기

이러한 사건을 주도하는 기본 기술인 생성적 적대 신경망(GANs)과 대규모 멀티모달 모델은 악의적인 행위자들이 최소한의 기술적 전문 지식만으로도 '고충실도' 사기를 저지르는 것을 매우 쉽게 만들었습니다. 과거의 조잡한 포토샵과 달리, 현대의 딥페이크는 인간의 음성과 표정의 미묘한 차이까지 포착하여 인간이 감지하는 것을 거의 불가능하게 만듭니다.

다음 표는 AI 시대에 신원 기반 사기가 어떻게 진화했는지 요약합니다.

방어 태세: 이해관계자가 해야 할 일

영국 중앙은행은 다층적인 방어 전략의 시급한 필요성을 알렸습니다. 이러한 동영상이 확산되는 속도를 고려할 때 플랫폼의 '자율 규제'에 의존하는 것은 충분하지 않음이 증명되었습니다. Creati.ai는 해결책이 규제 감독, 기술적 검증, 대중의 인식 제고를 결합한 형태여야 한다고 강조합니다.

1. 강화된 출처 확인 표준

플랫폼은 디지털 워터마킹 및 출처 확인 표준을 채택해야 합니다. C2PA(콘텐츠 출처 및 진위 확인을 위한 연합, Coalition for Content Provenance and Authenticity) 프로토콜을 통합함으로써, 콘텐츠 제작자와 뉴스 기관은 미디어가 AI에 의해 변경되지 않았음을 사용자가 확인할 수 있는 '디지털 지문'을 제공할 수 있습니다.

2. 사이버 경계 강화

영국 중앙은행과 같은 기관들은 현재 실시간 '위협 사냥(threat hunting)'에 더 많은 투자를 하고 있습니다. 이는 AI 기반 내부 모니터링 도구를 사용하여 웹상에서 지도부에 대한 허가되지 않은 묘사를 스캔하고, 영상이 많은 시청자에게 도달하기 전에 신속하게 삭제 조치하는 것을 포함합니다.

3. 대중의 문해력과 회의론

가장 효과적인 방어 수단은 여전히 회의적인 시각을 가진 대중입니다. 영국 중앙은행은 사용자들이 소비하는 모든 영상 및 오디오 콘텐츠의 출처를 엄격하게 모니터링할 것을 촉구하며, 특히 주제가 고위험 금융 문제와 관련될 때 더욱 주의할 것을 강조합니다.

기관 통신의 미래

미래를 내다볼 때, 진정한 디지털 통신을 유지한다는 과제는 더욱 커질 전망입니다. 영국 중앙은행만이 유일한 피해 사례는 아닙니다. 다양한 글로벌 금융 및 정치 기관들도 유사한 위협을 보고했습니다.

소비자 미디어에 AI가 통합되면서 우리에게 엄청난 창의적 역량이 제공되었지만, 동시에 혼란과 사기를 통해 이익을 얻는 자들에게 무기를 쥐여주었습니다. Creati.ai의 분석가로서 우리는 이 전쟁의 다음 단계는 인프라 계층에서, 즉 AI를 감지하기 위해 AI를 사용하는 방식으로 전개될 것이라고 믿습니다. 이러한 도구가 보편화되고 무료로 제공되기 전까지는, 이러한 콘텐츠를 호스팅하는 플랫폼과 이를 소비하는 시민 모두가 디지털 시대에 더 높은 수준의 투명성을 요구할 책임이 있습니다.

우리는 현재 디지털 권위가 어떻게 표현되는지에 대한 근본적인 변화를 목격하고 있습니다. "보는 것이 믿는 것이다(seeing is believing)"라는 시대는 사실상 끝났으며, 이제는 검증, 회의론, 그리고 기관의 회복 탄력성에 대해 더 세밀한 접근법이 필요한 시대로 접어들었습니다.