Google DeepMind, AGI 논쟁을 넓히기 위한 연구소 출범

Google DeepMind는 인공 일반 지능(AGI)에 대한 논의를 회사 내부 연구실을 넘어 확장하기 위한 새로운 플랫폼인 DeepMind Institute를 출범했다. 이 연구소는 Google DeepMind, Google, 그리고 더 넓은 연구 커뮤니티의 연구자들을 모아 고도화된 AI를 어떻게 평가하고, 거버넌스를 구축하며, 더 안전하게 만들 것인지 살펴본다.

이번 이니셔티브는 AGI를 둘러싼 논의가 막연한 경고에서 감독, 투명성, 최첨단 개발의 한계에 관한 구체적인 제안으로 옮겨가는 시점에 등장했다. 첫 공개 묶음에는 경제적 혼란, 모델의 추론, 인간의 번영, 고도화된 AI 시스템의 평가를 다루는 네 편의 에세이가 포함돼 있다.

DeepMind와 Google 인사가 이끄는 공개 포럼

연구소의 이사로는 DeepMind 공동 창립자 Shane Legg, Google 임원 James Manyika, 그리고 Google DeepMind 회장 Demis Hassabis가 올라 있다. TechCrunch의 출범 보도에 따르면 Legg는 매니징 에디터를 맡고 있다.

연구소가 내세운 목적은 단 하나의 Google 입장을 제시하는 것이 아니다. 발표문은 Google, Google DeepMind, 그리고 다른 곳의 연구자들이 서로 의견이 다를 수 있으며, 증거가 바뀌면 견해를 수정할 수도 있다고 밝힌다. 이 프레이밍은 중요하다. AGI는 여전히 업계 전반에서 받아들여진 기술 표준이 아니라 논쟁적인 범주이기 때문이다.

The Decoder는 이 플랫폼이 기술 작업과 함께 예술, 인문학, 정책, 과학 연구를 아우르는 학제 간 프로젝트로 설계됐다고 보도했다. 연구소의 범위에는 안전성, 거버넌스, 사이버 공격 위험, 그리고 미래 시스템이 통제하기 어려워질 가능성이 포함된다.

DeepMind는 AGI를 인간 두뇌의 인지 능력을 갖춘 시스템으로 설명하지만, 출처들은 오늘날의 시스템이 여전히 일부 단순한 작업에서 실패하고 창의성과 같은 특성은 부족하다고도 강조한다. 무엇이 AGI에 해당하는지를 둘러싼 불일치 때문에 측정과 평가에 초점을 맞춘 이 연구소의 방향은 특히 중요하다.

네 편의 에세이가 광범위한 우려를 제안으로 바꾸다

초기 자료는 연구소에 정책 지향적인 출발점을 제공한다. 한 에세이는 AGI로 인한 संभाव적 혼란을 관리하기 위한 경제 정책을 다룬다. 또 다른 글은 점점 더 유능해지는 모델에서 인간이 읽을 수 있는 추론을 어떻게 유지할지 살펴본다. 세 번째는 인간의 번영을 위한 원칙에 초점을 맞추며, 네 번째는 최첨단 AI 모델을 평가하기 위한 프레임워크를 제안한다.

DeepMind 안전 연구원 Rohin Shah와 Anca Dragan의 에세이는 투명성에 집중한다. 그들은 모델의 단계별 추론을 검사할 수 있는 능력이 줄어드는 것이 불가피한 일은 아니라고 주장한다. 새로운 아키텍처가 내부적으로 더 많은 계산을 수행할수록, 개발자와 규제당국은 성능과 모니터링 가능성 사이에서 선택을 강요받을 수 있다.

이들의 제안에는 시스템이 읽을 수 있는 추론 흔적을 남기지 않은 채 수행하는 순차 계산의 양을 뜻하는 “opaque serial depth”를 다루는 내용이 포함된다. 저자들은 규제당국이 이 특성을 제한하거나, 덜 투명한 시스템이 동일하게 모니터링 가능하다는 점을 개발자들이 입증하도록 요구할 수 있다고 제안한다. 원문 자료는 이러한 규칙이 이미 채택됐음을 보여주지 않는다. 이는 연구소의 첫 논쟁에서 제시된 권고안이다.

Hassabis의 에세이는 가장 진보한 AI 모델을 평가하기 위한 미국 주도의 표준 기관을 제안한다. 제안된 방식 아래에서는 개발자들이 처음에 출시 최대 30일 전까지 자발적으로 시스템을 심사에 제출하게 된다. 평가 과정이 가치를 입증한다면, 테스트를 통과하는 것이 결국 미국에서 최첨단 시스템을 배포하기 위한 조건이 될 수 있다.

제안된 기관은 처음에는 AI 기업들의 의견을 반영해 평가를 설계한 뒤, 독립적이고 사전에 공개되지 않는 평가로 나아갈 것이다. 이러한 “held-out” 테스트는 연구소들이 알려진 벤치마크에 맞춰 모델을 과도하게 최적화하는 위험을 줄이기 위한 것이다. Hassabis는 또한 위험이 더 심각해지면 감독을 강화할 수 있으며, 여기에는 최첨단 AI 개발자들 사이의 조율된 감속이 포함될 수 있다고 주장한다.

증거가 뒷받침하는 것과 그렇지 않은 것

출범과 연구소의 리더십은 TechCrunch와 The Decoder가 보도했지만, 현재 उपलब्ध한 증거는 발표 보도와 첫 에세이의 설명에 한정된다. 제공된 자료에는 연구소가 독립 규제 기관이라는 증거도, 제안이 미국 정부에 채택됐다는 증거도, 기업들이 모델 심사를 위해 제출하기로 합의했다는 증거도 없다.

따라서 표준 기관 제안은 운영 중인 정부 프로그램이 아니라 Hassabis의 정책적 입장으로 이해하는 것이 가장 적절하다. 마찬가지로 투명성 위험에 대한 주장도 안전 에세이의 저자들에게서 나온 것이며, 현재 시스템이 특정 위험 기준을 넘어섰다는 독립적으로 검증된 지표로 읽어서는 안 된다.

AGI의 시점 역시 여전히 불확실하다. The Decoder는 Hassabis가 수년 내 AGI를 예상하고 있으며, Legg는 2028년까지 가능한 선행 단계를 언급했다고 보도했다. 이는 합의된 전망이 아니라 개인의 예측이다. 기사에서는 또한 OpenAI가 경제적 가치에 초점을 맞추고 있다는 점, 그리고 CEO Sam Altman에게 귀속된 더 공격적인 예측 등 다른 회사들은 서로 다른 정의와 시점을 사용한다고 언급했다.

이 연구소가 AI 개발자와 기업에 중요한 이유

모델 개발자에게 가장 즉각적인 문제는 평가가 출시 이후의 연구 활동이 아니라 출시 요건으로 점점 더 취급될 수 있다는 점이다. held-out 테스트는 시스템을 공개 벤치마크에만 맞춰 조정하기 어렵게 만들지만, 동시에 접근, 기밀성, 재현성, 책임성에 대한 요구도 만들어낸다.

투명성 제안은 별도의 공학적 질문을 제기한다. 더 강력한 아키텍처가 덜 검토 가능한 추론을 만든다면, 팀은 성능, 감사 가능성, 배포 범위 사이에서 선택해야 할 수 있다. 고위험 업무 흐름을 구축하는 기업 구매자들은 모델이 정확한지뿐 아니라, 오류나 보안 사고 이후 그 행동을 조사할 수 있는지도 물을 수 있다.

규제당국과 정책팀에게 연구소의 제안은 자발적 출시 전 검토, 독립적 테스트, 불투명한 계산에 대한 제한, 안전장치가 따라가지 못할 때의 단계적 대응 메커니즘 등 구체적인 논의 주제를 제공한다. 이들 아이디어는 위험을 어떻게 정의할지, 누가 평가자를 통제할지와 같은 실질적 문제를 해결하지는 못한다. 그러나 논의를 시험 가능한 제도적 메커니즘으로 옮겨 놓는다.

이 이니셔티브는 경쟁 측면에서도 의미가 있다. Google DeepMind는 최첨단 모델의 선도적 개발자이자 거버넌스 논의의 참여자이기도 하다. 이 연구소는 정책 입안자와 기업 고객이 사용하는 어휘를 형성하는 데 도움을 줄 수 있는 동시에, 회사의 자체 가정을 외부 연구자들의 비판에 노출시킬 수 있다. 이런 긴장이 의미 있는 검증으로 이어질지는 플랫폼이 얼마나 개방되는지, 그리고 반대 의견이 공개된 에세이를 넘어 의사결정에 영향을 미치는지에 달려 있다.

다음에 주목할 점

첫 번째 신호는 DeepMind Institute가 주로 이사와 동료들의 견해를 전달하는 통로에 머무르지 않고, Google과 Google DeepMind 외부 연구자들의 추가 작업을 공개할지 여부다.

두 번째는 Hassabis가 제안한 평가 기관이 미국 정책 입안자나 다른 AI 기업들의 지지를 얻는지 여부다. 파일럿, 공동 테스트 프로토콜, 또는 자발적 출시 전 제출의 증거가 있다면 제안에서 운영 프레임워크로의 전환을 의미할 것이다.

연구자와 구매자들은 또한 “opaque serial depth”를 어떻게 측정할지, 개발자들이 동등한 모니터링 가능성을 어떻게 입증할지에 대한 기술적 세부사항도 지켜봐야 한다. 마지막으로 향후 에세이들은 연구소가 AGI 능력 주장과 실제 세계 작업에서의 측정 가능한 성능을 어떻게 구분하는지 밝힐 수 있다.

Creati.ai 관점

DeepMind Institute가 중요한 이유는 AGI 논쟁에 종지부를 찍어서가 아니라, Google DeepMind가 의견 차이와 정책 제안을 더 가시적으로 드러낼 공식 무대를 갖게 되기 때문이다. 초기 의제는 모델 아키텍처, 안전 연구, 경제적 혼란, 공공 감독을 연결한다. 이들은 흔히 따로 논의되는 영역들이다.

신뢰성의 시험은 실용적일 것이다. 연구소가 독립 평가를 지원하고, 제안의 근거가 되는 증거를 공개하며, Google DeepMind의 상업적·연구적 우선순위에 도전하는 견해를 허용한다면 AI 개발자와 정책 입안자에게 유용한 포럼이 될 수 있다. 주로 내부 입장을 포장하는 데 그친다면, 그 영향력은 출범이 시사하는 것보다 좁을 것이다.