OpenAI, Anthropic, Google DeepMind, AI 안전 대화가 수주간 이어졌다고 확인

OpenAI는 경쟁사인 Anthropic과 Google DeepMind와 지난 몇 주간 AI 안전에 대해 논의해 왔다고 회사의 글로벌 정책 책임자인 Chris Lehane이 화요일 기자들에게 밝혔다. 이번 공개로, 정책 입안자들이 점점 더 강력해지는 시스템을 어떻게 관리할지 논의하는 가운데, 최첨단 모델 기업들이 비공개로 조율해 왔음이 확인됐다.

이런 대화는 워싱턴의 분열이 커지는 가운데 이뤄지고 있다. Anthropic의 Dario Amodei CEO는 재앙적 위험을 줄이기 위해 프런티어 AI 개발 속도를 늦출 것을 업계에 촉구해 왔지만, Donald Trump 대통령과 그의 AI 고문 David Sacks는 그런 우려를 일축하며 더 강한 규제가 중국에 맞서 미국을 약화시킬 수 있다고 주장했다. AI 개발사와 기업 구매자에게 이 논쟁은 다음 시장 단계에서 모델 평가, 배포 통제, 독립적 감독이 어떻게 발전할지를 좌우할 수 있다.

왜 지금 대화가 드러났나

Lehane의 발언은 Bloomberg의 선행 보도에 이어 TechCrunch가 보도한 것으로, Amodei가 AI 기업 간의 더 긴밀한 협력을 촉구하는 공개 에세이를 낸 뒤 나왔다. 보도에 따르면 이 행동 촉구를 지지한 업계 인사에는 OpenAI의 Sam Altman CEO, Google DeepMind의 Demis Hassabis CEO, 그리고 SpaceXAI의 Elon Musk가 포함됐다.

Altman은 또한 OpenAI가 Anthropic과 협력해 제3자 평가자를 운영에 통합할 것이라고 밝혔다. 이 평가자들은 고급 모델이 안전하게 개발되고 배포되고 있는지 감시하는 역할을 할 예정이지만, 현재 알려진 보도만으로는 제안된 검토의 범위, 권한, 운영 기준이 명시되어 있지 않다.

OpenAI의 확인 이전에도 비공개 논의는 이미 암시된 바 있다. TechCrunch는 Altman이 최근 다른 AI 리더들과의 비공개 대화를 인정했다고 보도했다. The Information은 별도로 OpenAI, Anthropic, Google DeepMind가 업계 표준 기구를 만들기 위해 노력하고 있다고 보도했지만, 그 보도에 따르면 Altman은 OpenAI 직원들에게 그 시도가 미국 정부의 지원 없이 진행돼야 할 수도 있다고 말했다.

따라서 이번 대화는 단순한 경영진 간 비공식 접촉 이상의 것으로 보인다. 여기에는 공유된 안전 관행, 외부 평가, 그리고 경쟁 연구소 간 표준을 설정하는 가능한 메커니즘이 포함될 수 있다. 이들 회사는 자세한 프레임워크를 공개하지 않았으며, TechCrunch는 OpenAI, Anthropic, Google에 의견을 요청했다고 전했다.

안전 협력이 반독점 우려와 맞닥뜨리다

직접 경쟁사 간 협력은 법적·상업적 복잡성을 낳는다. Altman과 다른 이들은 규제 당국이 안전 협력이 경쟁 제한, 제품 출시 지연, 시장 분할에 사용되고 있다고 판단할 경우 공동 논의가 반독점 문제를 일으킬 수 있음을 인정해 왔다.

Amodei의 제안에는 일부 안전 관련 협력을 보호하는 제한적 정부 면제가 포함돼 있었다. TechCrunch에 따르면 Lehane은 회사들이 그런 면제가 필요하지 않다고 말했다. 이 입장은 핵심 질문을 남긴다. 연구소들은 경쟁 억제로 해석될 수 있는 행위의 선을 넘지 않으면서 어떤 안전 장치를 함께 논의할 수 있는가?

이 구분이 중요한 이유는 이들 회사가 단순한 학술 연구 그룹이 아니기 때문이다. OpenAI, Anthropic, Google DeepMind는 개발자, 기업 계약, 인프라 용량, 그리고 고급 모델을 규율할 수 있는 표준에 대한 영향력을 두고 경쟁한다. 공통 테스트 프로토콜은 비교 가능성을 높이고 중복 작업을 줄일 수 있지만, 동시에 대형 연구소들에 업계 전반에 적용되는 규칙에 대해 과도한 통제력을 부여할 수도 있다.

이 모델 위에서 제품을 만드는 기업에게는 그 결과가 문서화, 감사 요건, 고위험 기능 접근성에 영향을 줄 수 있다. 자율적인 업계 프로세스는 입법보다 빨리 움직일 수 있지만, 일관된 집행이나 독립적 권한은 부족할 수 있다.

증거, 주장, 그리고 정책의 분열

보도에서 가장 확실히 확인된 사실은 OpenAI가 Anthropic 및 Google DeepMind와 수주간 안전 논의를 해왔다는 Lehane의 발언이다. 더 넓은 표준 기구 추진은 아직 회사의 공식 발표가 아니라 The Information의 보도에 기반하고 있다.

제3자 평가의 이점 역시 원문 자료에서는 입증된 것이라기보다 장래적 가능성으로 제시된다. 독립적 결과, 평가자 이름, 시험 기준, 집행 절차는 제공되지 않았다. 재앙적 위험에 대한 언급은 Amodei와 다른 AI 안전 옹호자들의 입장을 반영하는 것이지, 특정 모델이나 배포가 그러한 임계점에 도달했다는 확립된 측정은 아니다.

Hassabis는 이전에 미국이 고급 모델을 심사하고 위험이 커질 경우 업계 전반의 속도 조절을 조정할 수 있는 새로운 표준 기구를 설립해야 한다고 말한 바 있다. 이는 실존적 위험 경고를 과장되었거나 정치적 동기가 있다고 규정하고 중국과의 경쟁을 강조해 온 Trump와 Sacks의 입장과 대조적이다.

정책 충돌은 비공개 대화에 이례적인 중요성을 부여한다. 만약 미국 정부가 공식적인 감독 체계를 만들 의지가 없다면, 프런티어 연구소들이 스스로 그것을 구축하려 할 수 있다. 그러나 평가 대상 기업이 이끄는 민간 기구는 독립성, 투명성, 이해상충에 대한 질문에 직면하게 될 것이다.

이 대화가 AI 개발자에게 의미할 수 있는 것

모델 개발자에게 즉각적인 함의는 공동 평가 관행으로의 전환 가능성이다. 공통 테스트는 위험한 능력에 대해 시스템을 비교하고, 모델 버전 간 변화를 추적하며, 어떤 배포에 더 강한 통제가 필요한지 식별하는 데 도움이 될 수 있다. 동시에 특히 대형 연구소의 안전 팀과 인프라가 부족한 소규모 기업에는 새로운 준수 비용을 만들 수도 있다.

기업 제품 팀에게는 독립 검증이 벤더 실사의 일부가 될 수 있다. 구매자는 민감한 데이터를 다루거나 도구를 작동시키거나 규제된 워크플로에서 결정을 내리게 하기 전에 모델이 외부 테스트를 거쳤다는 증거를 원할 수 있다. 다만 그런 요구에 대한 확정된 일정은 없고, 보도에 나온 어떤 합의도 아직 공통 인증을 설정하지는 않았다.

상업적 이해관계도 마찬가지로 직접적이다. 안전 결과를 기준으로 조정된 속도 조절은 출시 일정, API 가용성, 개발자들이 새 기능을 받는 속도에 영향을 줄 수 있다. 반대로 반독점 위험 때문에 기업들이 협력하지 못한다면, 각 연구소는 계속해서 자체 임계값과 평가 방법을 설정할 것이다. 이는 경쟁을 유지할 수 있지만, 고객에게는 모델 위험에 대한 일관성 없는 정보가 제공될 수 있다.

문제는 이 세 회사 너머로도 확장된다. 업계 표준 기구는 오픈 모델 개발자, 클라우드 제공업체, 독립 연구자, 그리고 특수 환경에 모델을 배포하는 기업들을 고려해야 한다. 가장 큰 프런티어 연구소들만이 만든 규칙은 더 넓은 생태계가 받아들이기 어려울 수 있다.

앞으로 주목할 점

다음으로 확인할 수 있는 구체적 신호는 OpenAI, Anthropic, Google DeepMind 중 누가 안전 대화의 참여자, 범위, 거버넌스를 공개적으로 밝히느냐다. 누구를 임명하는지, 무엇을 검토할 수 있는지, 결과가 공개되는지 등 제3자 평가자에 대한 세부 사항이 나온다면 실질적인 감독 계획과 광범위한 약속을 구분할 수 있을 것이다.

FRONTIER Act에 대한 입법자들의 반응도 중요하다. Lehane은 OpenAI가 주요 프런티어 연구소가 “독립 검증 기관”을 회사에 들이도록 요구하는 조항을 지지한다고 말했다. 법안 문구, 집행 권한, 적용 대상 연구소의 정의가 이 제안이 실제 의무가 될지 아니면 정책적 입장으로 남을지를 결정할 수 있다.

마지막으로 개발자들은 공식 표준 기구 발표, 공유된 평가 벤치마크, 그리고 이 과정에 세 가장 큰 참여자 외의 조직이 포함된다는 증거를 주시해야 한다. 그런 신호가 없다면 이번 대화는 조율에 대한 중요한 공개이기는 하지만, 아직 운영 가능한 안전 체계는 아니다.

Creati.ai 관점

이 이야기의 중요성은 단지 세 개의 AI 회사가 대화하고 있다는 데 있지 않다. 회사들이 협력이 법적·경쟁적 위험을 만들 수 있는 시장에서 공통의 안전 프로세스가 필요하다는 점을 인식하고 있는 듯 보인다는 데 있다. 이러한 긴장은 감독이 입법, 자발적 표준, 또는 회사별 관행의 조합으로 나타날지를 좌우할 것이다.

개발자와 기업 구매자에게 실질적인 교훈은, 안전 약속이 검증 가능한 증거를 내놓기 전까지는 미완성으로 취급하라는 것이다. 즉, 정의된 테스트, 독립적 접근, 공개된 결과, 그리고 실패 시 명확한 결과가 필요하다. 이번 대화는 유용한 출발점일 수 있지만, 참여자들이 안전 포럼을 AI 시장의 관문 통제 장치로 바꾸지 않으면서 진정으로 독립적인 감독을 만들어낼 수 있는지에 그 신뢰성이 달려 있다.