Anthropic CEO Dario Amodei가 AI 정책에서 가장 첨예한 논쟁 중 하나에 더 분명한 선을 긋고 있다. 월요일 TechCrunch AI가 강조하고 Axios와 CNBC가 이어받은 공개 발언에서, Amodei는 Anthropic이 오픈 웨이트 모델 금지를 한 번도 추진한 적이 없다고 말하면서도, 권위주의 국가들, 특히 중국이 개발한 첨단 AI에서 비롯될 수 있다고 자신이 보는 위험에 대한 경고는 다시 한 번 강조했다.

이 해명은 Anthropic이 모델 공개와 프런티어 모델 안전성 측면에서 AI 업계의 더 신중한 진영으로 자주 분류되어 왔기 때문에 중요하다. 그 결과 이 회사는, 특히 정책 입안자들이 고성능 모델에 더 엄격한 통제를 적용해야 하는지 검토하는 가운데, 오픈 모델 지지자들의 비판 대상이 되어 왔다. Amodei의 최신 발언은 공개 담론에서 자주 뒤섞이는 두 가지 문제, 즉 개발자들이 오픈 웨이트 시스템을 공개할 수 있어야 하는지, 그리고 AI에서 국가 간 경쟁이 별도의 보안 문제를 만드는지를 분리하려는 시도다.

TechCrunch AI에 따르면 Amodei는 광범위한 오픈 웨이트 모델 금지는 유용한 조치가 아니라고 적었고, Anthropic이 그런 정책을 지지해 온 적이 없다고 명시했다. 그의 반응은 Nvidia CEO Jensen Huang이 X에 공유한 새로운 업계 서한에 뒤이어 나왔으며, 그 서한에서 Nvidia, Meta, Microsoft, Mistral, Hugging Face 등의 회사들은 정책 입안자들에게 오픈 웨이트 AI 모델에 대해 자신들이 보기엔 성급한 제한을 부과하지 말라고 촉구했다.

점점 커지는 정책 균열에 대한 응답

Amodei의 발언을 촉발한 직접적 계기는, 안전성에 초점을 둔 연구소들이 중국발 공개 출시까지 포함해 오픈 공개를 제한하는 규칙을 지지할 수 있다는 업계의 의심이 커지고 있기 때문인 것으로 보인다. TechCrunch AI가 인용한 공개 서한 연합은 중국을 특정하지는 않았지만, 더 큰 싸움은 점점 중국 AI의 진전, 첨단 칩 접근, 그리고 일부 연구소가 증류(distillation)나 지적재산권 도용의 혜택을 볼 수 있다는 주장에 초점이 맞춰지고 있다.

이 맥락은 중요하다. 현재 AI 정책 논의에서 “오픈 웨이트”는 여러 서로 다른 주장들을 한꺼번에 대변하는 용어가 되었다. 개발자 자유, 스타트업 경쟁, 국가 안보, 그리고 모델의 파라미터가 널리 배포된 뒤에도 안전 통제를 집행할 수 있는지 여부가 그것이다. Amodei의 개입은 이 질문들을 해결하지는 않지만, Anthropic이 포괄적 금지에는 반대한다는 점을 분명히 해 준다.

TechCrunch AI가 묘사한 바에 따르면, Amodei는 위험한 능력이 없는 오픈 웨이트 모델은 기업, 개발자, 연구자들이 이를 운영하는 데 필요한 컴퓨팅 비용만으로 사용할 수 있기 때문에 공공재가 될 수 있다고 주장했다. 이런 프레이밍은 적어도 수사적으로는 Hugging Face, Meta, 그리고 다른 오픈 모델 지지자들이 오래전부터 해온 주장, 즉 개방 접근은 실험을 확대하고 진입 장벽을 낮출 수 있다는 논리와 Anthropic을 더 가깝게 만든다.

동시에 Amodei는 Anthropic의 핵심 안전 우선 입장을 버리지 않았다. 대신 그는 더 큰 위협은 중국발 모델을 포함한 일반적인 상업적 사용이 아니라, 권위주의 정부가 군사적 우위나 국내 억압을 위해 더 강력한 시스템을 구축할 가능성이라고 주장했다.

Amodei가 실제로 걱정한다고 말하는 것

TechCrunch AI 보도에 따르면, Amodei의 발언은 소비자나 기업의 오용보다 국가 권력에 더 초점을 맞춘다. 그는 권위주의 정부가 첨단 AI를 통해 “영구적인 군사적 우위”를 추구하고, 이러한 시스템을 사용해 자국민에 대한 통제를 강화할 수 있다고 경고한 것으로 전해졌다. 그는 중국만이 자신이 우려하는 정부는 아니라고 말했지만, 자신이 염두에 둔 권위주의 행위자들 가운데 가장 능력이 뛰어난 쪽으로 중국공산당을 지목했다.

그는 또한 AI 보안 헤드라인을 자주 지배하는 사이버보안 우려를 넘어 위험 논의를 넓혔다. TechCrunch AI에 따르면 Amodei는 사이버 위협뿐 아니라 AI가 가능하게 하는 생물학적 공격도 우려한다고 말했다. 이 관점에서 오픈 웨이트 배포는 모델이 위험한 역량 수준에 도달할 때 더 우려스러워진다. 일단 가중치가 공개되면 기술적·정책적 통제를 적용하기가 더 어려워지기 때문이다.

이 주장은 Anthropic과 오픈 모델 생태계 상당수 사이의 오래된 균열을 반영한다. 오픈 공개 지지자들은 더 넓은 접근이 방어자들이 시스템을 연구하고, 대응책을 개발하고, 소수의 미국 기업에 권력이 집중되는 것을 피하는 데 도움이 된다고 자주 주장한다. TechCrunch AI가 전한 Amodei의 입장은 더 좁다. 오픈 웨이트 모델은 유익할 수 있지만, 그 역량이 오용 방지가 중앙화된 가드레일이나 감시에 의존하는 범주로 들어가면 그렇지 않다는 것이다.

여기서 중국 문제도 더 직접적으로 들어온다. TechCrunch AI는 Amodei가 중국의 고성능 칩 접근 제한과 증류 단속 강화를 촉구했다고 보도했다. 이런 제안은 수출 통제와 모델 출력이 경쟁 시스템을 훈련하는 데 어떻게 쓰일 수 있는지에 대한 더 면밀한 감시로 향하는 기존 미국 정책 흐름과 일치한다.

Anthropic이 지키려는 정책의 경계

Anthropic에게 전달되는 메시지는, 개방성 자체가 적이 아니라 능력과 지정학적 맥락이 문제라는 것이다. 이는 비평가들이 때때로 이 회사에 부여하는 것보다 더 미묘한 입장이지만, 공개 모델을 자주 홍보하는 회사들의 태도에 비해서는 여전히 제한적인 틀이다.

이 구분은 향후 규제에 중요할 수 있다. 정책 입안자들이 가장 강력한 모델만 테스트나 통제의 대상이 되어야 한다는 생각을 받아들인다면, 소규모 개발자와 학계는 프런티어 시스템을 겨냥한 부담을 피할 수 있을지도 모른다. TechCrunch AI는 Amodei가 모델 안전성 테스트 조직 작업을 지지하며, 오픈이든 클로즈드든, 원산지가 어디든 가장 강력한 모델에 적용되되 스타트업과 학계의 덜 강력한 시스템은 제외하는 제안도 지지한다고 보도했다.

이 점은 두 가지 이유에서 주목할 만하다. 첫째, Anthropic이 단순히 클로즈드 모델을 오픈 경쟁자에 맞서 지키려는 것이 아니라, 역량 임계치 접근을 주장하고 있음을 시사한다. 둘째, 적어도 상위권에서는 Anthropic 자체 시스템뿐 아니라 Meta나 Mistral 같은 경쟁사들의 출시물까지 궁극적으로 포함할 수 있는 모델 거버넌스 체계에 Anthropic이 더 가까워지고 있음을 보여준다.

그럼에도 큰 실무적 단서가 있다. TechCrunch AI의 요약에 따르면, Amodei는 가장 심각한 위험을 줄이려면 중국의 참여를 포함한 글로벌 테스트가 필요하다고 말했다. 이는 야심찬 전제다. 또한 이 뉴스 묶음 안에는 그런 국경 간 집행 체계가 구현에 가까워졌다는 증거가 없기 때문에, 제안 중 가장 불확실한 부분 중 하나이기도 하다.

증거, 귀속, 그리고 여전히 입증되지 않은 것들

이 묶음에서 가장 강한 사실 보도는 Amodei의 공개 발언을 설명한 TechCrunch AI에서 나온다. Axios와 CNBC도 동일한 핵심 해명, 즉 Dario Amodei가 Anthropic은 오픈 웨이트 모델 금지를 지지하지 않는다고 말했다는 점을 독립적으로 보도했다. 하지만 이 묶음에는 원래 블로그 글 전문이 포함되어 있지 않으므로, 일부 뉘앙스는 TechCrunch AI의 해석에 달려 있다.

여기에는 신중하게 봐야 할 중요한 주장들이 있다. 중국 AI 연구소들이 도난당한 지식재산이나 공격적인 증류를 통해 발전하고 있다는 생각은 이 출처 집합이 확정한 사실이 아니라 현재 진행 중인 정책상의 주장이다. TechCrunch AI는 이 논쟁을 업계 배경의 일부로 제시하며, 미국이 미국 모델 IP 도용이 발생했다고 판단하면 제재를 위협했다고 언급한다. 이는 특정 연구소가 도용을 저질렀다는 증거와는 다르다.

마찬가지로 오픈 웨이트 모델과 생물학적 오용을 둘러싼 위험 논거는 이 보도에서 입증된 결과가 아니라 분석적 주장으로 남아 있다. TechCrunch AI는 Amodei가 UK AI Security Institute 보고서를 인용해, 한 번 공개된 오픈 웨이트는 회수할 수 없다고 주장했다고 전한다. 이는 운영상 타당한 지점이지만, 그것만으로 오픈 공개가 폐쇄 접근보다 현실 세계에서 더 큰 피해를 낳는다고 입증하는 것은 아니다.

Jensen Huang이 공유한 업계 서한도 신중하게 맥락을 잡아야 한다. Nvidia, Microsoft, Meta, Mistral, Hugging Face를 포함한 서명 기업들은 중립적 관찰자가 아니다. 각자 오픈 웨이트 AI에 대한 광범위한 제한에 반대할 전략적 이유가 있다. 그들의 입장은 정책적 주장이지, 완화된 규칙이 더 나은 안전성이나 시장 결과를 낳는다는 독립적 증거는 아니다.

이것이 개발자와 기업 구매자에게 중요한 이유

AI 개발자에게 Anthropic의 해명은 적어도 하나의 불확실성을 줄여 준다. 회사가 공개적으로 오픈 웨이트 AI의 전면 금지를 주장하고 있지는 않다는 점이다. 이는 오픈 모델 위에 구축하는 스타트업, 파인튜닝과 추론을 지원하는 인프라 제공업체, 그리고 오픈 웨이트 시스템이 미국에서 정치적으로 계속 유효할지 평가하는 기업 팀에게 중요하다.

하지만 안도감은 제한적이다. Amodei의 발언은 여전히 첨단 모델이 더 많은 테스트, 더 많은 검토, 그리고 잠재적으로 접근·배포·유통에 대한 더 강한 통제를 받는 세계를 지지한다. 프런티어급 시스템을 다루는 개발자들은 이를, 다음 규제 경계는 모델이 단지 오픈인지 클로즈드인지가 아니라 역량과 오용 가능성에 따라 그어질 수 있다는 신호로 읽어야 한다.

기업 AI 구매자에게도 이 논쟁은 조달 전략에 영향을 준다. Anthropic, Meta, Mistral, 혹은 Hugging Face를 포함한 스택 중 무엇을 선택할지 결정하는 기업은 기술적 절충만 하는 것이 아니라 거버넌스 선택도 하고 있다. 오픈 웨이트 모델은 유연성, 감사 가능성, 낮은 락인(lock-in)을 제공할 수 있다. 반면 클로즈드 제공업체는 더 강한 가드레일, 관리형 모니터링, 규정 준수에 민감한 배포를 위한 더 명확한 경로를 제공할 수 있다. Amodei의 논리는 이 절충이 앞으로도 중심적일 가능성이 높다는 점을 강조한다. 특히 보안, 바이오보안, 정부 감독의 영향을 받는 분야에서 그렇다.

이 발언은 또한 Nvidia가 반대 서한을 부각하는 데 도움을 주었음에도, Anthropic과 Nvidia의 경쟁이 이 이야기의 핵심은 아님을 보여 준다. 오히려 이것은 AI 생태계 전반의 정책 정렬 싸움이다. 프런티어 연구소, 칩 기업, 오픈 모델 플랫폼, 엔터프라이즈 소프트웨어 공급업체 모두 규칙이 굳어지기 전에 그 규칙을 만들려 하고 있다.

다음에 주목할 것

첫 번째로 주목할 신호는 Anthropic이 오픈 웨이트 모델에서 자신들이 생각하는 “위험한 능력”이 어디서 시작되는지 추가 설명을 내놓는지 여부다. 그 임계점이 없다면, 오픈 웨이트 지지는 여전히 가장 경쟁력 있는 시스템에 대한 의미 있는 제한 지지를 가릴 수 있다.

둘째, Nvidia, Meta, Microsoft, Mistral, Hugging Face가 지지한 업계 서한이 워싱턴과 우방국 수도들에서 더 공식적인 정책 캠페인으로 발전하는지 지켜볼 필요가 있다. 성급한 제한에 반대하는 광범위한 연합은 향후 모델 거버넌스 제안이 어떻게 작성될지에 영향을 줄 수 있다.

셋째, 미국 당국이 증류, 칩 통제, 혹은 모델 IP 도용 의혹과 연결된 제재를 둘러싼 조치를 강화하는지 추적해야 한다. 이런 조치는 중국 AI 개발자뿐 아니라 글로벌 클라우드, 모델 호스팅, 기업 배포 관행에도 영향을 미칠 수 있다.

마지막으로, 글로벌 테스트 체제로 가는 구체적인 움직임은 의미가 클 것이다. Amodei가 중국도 결국 제한적 안전 조정에 참여할 수 있다고 시사한 것은 주목할 만하지만, 지금으로서는 확립된 정책 방향이라기보다 희망에 가깝다.

Creati.ai 관점

Anthropic은 자주 구호로 축약되는 논쟁에서 다시 뉘앙스를 되찾으려 하고 있다. Amodei의 발언은 회사가 원칙적으로 오픈 웨이트에 반대하는 것은 아니지만, 모델이 고위험 역량 영역에 들어서는 순간 무제한 공개에는 깊은 회의를 품고 있다는 뜻이다. 이는 전면적으로 폐쇄형 AI를 주장하는 것보다 더 방어 가능하고 정치적으로도 더 지속 가능한 입장이다.

더 어려운 질문은 정책 입안자들이 경쟁을 얼어붙게 하거나 기존 강자들이 어떤 모델이 “위험한지” 정의하도록 두지 않으면서 이 구분을 실제로 작동시킬 수 있느냐는 것이다. 개발자와 구매자에게 실질적인 교훈은, 오픈 대 클로즈드 논쟁이 역량 거버넌스 논쟁으로 진화하고 있다는 점이다. 다음에 신뢰를 얻는 기업은 단지 강력한 모델을 내놓는 것만으로는 부족하다. 실제 보안과 시장 조건 아래서 자신의 공개 및 배포 선택이 왜 합리적인지 증거를 들어 설명해야 한다.