Z.ai의 오픈 웨이트 GLM-5.2가 사이버보안과 생물학적 역량에서 선도적인 최전선 모델들의 성능에 가까워지고 있다고 AI 안전 비영리단체 SaferAI의 새로운 평가가 밝혔다. 이 보고서는 또한 뚜렷한 약점을 지적한다. 이 모델은 폐쇄형 모델의 사용을 제한하는 거부 행동과 공개 시 안전장치를 거의 보여주지 않았다.

SaferAI의 발견은 오픈 웨이트 시스템이 OpenAI와 Anthropic의 모델과 경쟁할 수 있는지 여부를 넘어서는 논쟁을 더 날카롭게 만든다. 더 어려운 질문은 개발자, 규제 당국, 기업 구매자들이 모델 가중치가 다운로드·수정·자사 인프라 밖 실행이 가능해진 뒤에도, 이처럼 고성능인 모델의 위험을 관리할 수 있는가 하는 점이다.

GLM-5.2, 역량 격차를 좁히다

SaferAI는 GLM-5.2가 자사의 평가에 포함된 사이버 및 생물학 과제에서 OpenAI의 GPT-5.5와 Anthropic의 Claude Opus 4.7보다 불과 몇 달 뒤처져 있다고 말했다. 이는 중국 개발자의 오픈 웨이트 모델로서는 의미 있는 결과이지만, 근거는 광범위하고 독립적으로 재현된 벤치마크 프로그램이 아니라 한 비영리단체의 평가에서 나온 것이다.

이 비영리단체는 Z.ai의 공개 API를 통해 테스트를 수행했다. 이 점은 중요하다. API로 접근하는 모델은 고객의 자체 하드웨어에 배포된 다운로드 가능한 가중치와 정확히 같은 방식으로 동작하지 않을 수 있기 때문이다. 또한 이 평가는 그 자체만으로는 모델이 파인튜닝, 시스템 프롬프트 변경, 또는 공급자 측 통제 제거 이후 어떻게 작동할지를 보여주지 못한다.

그럼에도 결과는 더 넓은 시장 흐름을 뒷받침한다. 오픈 웨이트 시스템은 커스터마이즈, 로컬 배포, 데이터와 인프라에 대한 더 많은 통제가 필요한 팀에게 신뢰할 수 있는 대안이 되고 있다. 공개 모델과 최전선 제품 사이의 역량 격차는 일부 기술 워크로드에서는 더 이상 결정적이지 않다.

안전 격차가 점수보다 더 중요하다

SaferAI는 테스트 중 GLM-5.2가 받았던 공격적 사이버보안 또는 이중용도 생물학 요청을 하나도 거부하지 않았다고 보고했다. 반면 이 비영리단체는 Claude Opus 4.7이 너무 일관되게 거부해, 그 모델로 CyberGym 사이버보안 벤치마크를 완료할 수 없었다고 말했다.

이 결과는 완전한 안전 순위가 아니라 테스트 조건 아래에서 관찰된 행동의 비교로 읽어야 한다. 거부율은 프롬프트, 모델 버전, 시스템 지시문, 평가 설계에 따라 달라질 수 있다. 그럼에도 이 결과는 이 이야기의 핵심 구분을 보여준다. 역량과 위험 완화는 서로 다른 차원이라는 점이다.

SaferAI의 CEO Henry Papadatos는 TechCrunch에 가장 유능한 시스템이 자동으로 가장 위험하거나 가장 안전한 것은 아니며, 그 주변의 완화 조치도 함께 고려해야 한다고 말했다. 폐쇄형 모델의 경우 제공자는 분류기, 거부 학습, 모니터링, API 제한을 배포할 수 있다. 이러한 통제는 완벽하지 않지만, 제공자에게 시스템의 응답 방식을 지속적으로 바꿀 수 있는 어느 정도의 권한을 준다.

가중치가 공개되면 이러한 지렛대는 대부분 사라진다. 사용자는 원래 제공자의 API 없이 오픈 웨이트 모델을 실행하고, 시스템 프롬프트를 바꾸고, 더 좁은 목적에 맞춰 파인튜닝하고, 안전장치를 완전히 제거할 수 있다. 그 결과는 서비스 약관이나 출시 후 모더레이션만으로는 해결할 수 없는 거버넌스 문제다.

SaferAI가 빠졌다고 말하는 것들

SaferAI는 Z.ai가 GLM-5.2에 대한 안전 프레임워크, 배포 전 테스트 약속, 또는 위험 평가를 공개하지 않았다고 말했다. TechCrunch는 Z.ai에 회사가 공개 전에 내부 또는 제3자 최전선 안전 평가를 수행했는지 물었지만 답변을 받지 못했다고 보도했다.

공개 문서가 없다고 해서 내부 테스트가 없었다는 뜻은 아니다. 다만 고객, 연구자, 정책 입안자들이 어떤 위험이 평가되었는지, 어떤 완화 조치가 고려되었는지, 그리고 회사가 어떤 출시 기준을 사용했는지 이해하기는 더 어려워진다.

이 문제는 중국 개발자에만 국한되지 않는다. 최전선 제공자들도 반복적인 탈옥(jailbreak)과 방어 실패에 직면한다. Far.ai는 xAI의 Grok 4.5와 Google DeepMind의 Gemini 3.1 Pro 같은 모델에 대해 재사용 가능한 탈옥 기법을 보고했다. 폐쇄형 제공자는 이런 약점을 중앙에서 수정할 수 있지만, 오픈 웨이트 배포자는 하위 사용자들이 이를 복원하거나 증폭하는 것을 일반적으로 막을 수 없다.

SaferAI의 Papadatos는 사전학습 데이터 필터링을 가능한 한 가지 조치로 꼽았다. 훈련 데이터에서 공격적인 사이버보안 또는 생물학 관련 자료를 제거하면 일부 위험한 지식을 줄일 수 있으며, 보고서가 인용한 연구는 생물학적 위험이 일반 성능의 큰 손실 없이 완화될 수 있음을 시사한다. 사이버보안은 더 어렵다. 개발자에게 모델을 유용하게 만드는 코딩 능력이 취약점을 찾고 악용하는 데 유용한 능력과도 겹치기 때문이다.

빌더와 기업 구매자에 대한 시사점

AI 개발자에게 GLM-5.2는 단순한 모델 선택의 승리가 아니라 실질적 절충안을 만든다. 로컬 가중치는 비공개 배포, 외부 API 의존도 감소, 방어적 보안 작업을 위한 커스터마이즈를 지원할 수 있다. 그러나 모델을 배포하는 팀은 접근 제어, 로깅, 모니터링, 남용 테스트, 사고 대응에 대한 책임을 떠안게 된다.

따라서 기업은 오픈 웨이트 모델을 두 개의 별도 축으로 평가해야 한다. 첫째는 작업 성능으로, 코딩 품질, 취약점 분석, 생물학 연구 지원, 지연 시간, 인프라 요구 사항이다. 둘째는 운영상 안전성으로, 모델이 위험한 요청을 거부하는지, 그 거부를 얼마나 쉽게 우회할 수 있는지, 그리고 조직이 배포 후 오남용을 탐지할 수 있는지다.

이 구분은 사이버보안 팀에게 특히 중요하다. 내부 시스템의 약점을 찾는 데 도움을 주는 모델이 공격적 지침도 생성할 수 있기 때문이다. GLM-5.2나 유사한 시스템을 고려하는 조직은 제한된 권한, 샌드박스 실행, 인간 검토, 그리고 방어적 분석과 제3자 시스템에 대한 행동 사이의 명확한 경계가 필요하다.

이번 공개는 또한 오픈 웨이트와 폐쇄형 모델 전략 간의 경쟁을 더욱 격화시킨다. Hugging Face CEO Clem Delangue를 포함한 오픈 웨이트 지지자들은 유능한 모델에 대한 접근이 방어자들이 공격에 대비하고 범죄자들이 악용하기 전에 취약점을 식별하는 데 도움이 된다고 주장한다. Papadatos는 방어적 가치가 더 강력한 안전장치 없이 위험한 역량을 공개하는 것을 자동으로 정당화하지는 않는다고 반박한다.

다음에 주목할 점

첫 번째 신호는 Z.ai가 GLM-5.2에 대한 안전 프레임워크, 위험 평가, 또는 출시 전 테스트 세부 정보를 공개하는지 여부가 될 것이다. SaferAI의 사이버 및 생물학 결과를 독립적으로 재현하는 일도 중요하며, 특히 호스팅된 API 동작과 다운로드 가능한 모델을 비교하는 평가가 중요하다.

연구자와 구매자는 GLM-5.2의 안전장치를 얼마나 쉽게 바꾸거나 제거할 수 있는지, 파인튜닝 후 성능은 어떤지, 그리고 새로운 공개 방식이 공격 지원은 제한하면서도 유용한 코딩 및 연구 역량은 유지할 수 있는지를 주시해야 한다.

규제 당국도 구체적인 정책 질문에 직면할 것이다. 의무를 모델 제공자에게 출시 시점에 부과할 것인지, 가중치를 배포하는 회사에 부과할 것인지, 아니면 고위험 워크플로에서 이를 배포하는 조직에 부과할 것인지가 그것이다. 콘텐츠 모더레이션에 초점을 둔 기존 규칙은 무제한 로컬 실행이 만들어내는 위험을 다루지 못할 수 있다.

Creati.ai 관점

GLM-5.2의 중요성은 단지 오픈 웨이트 모델이 최전선 시스템에 더 가까운 점수를 받는다는 데 있지 않다. 역량 발전이 안전 아키텍처를 핵심 제품 및 조달 이슈로 만들고 있다는 데 있다. 모델의 벤치마크 위치는 빌더에게 무엇을 할 수 있는지 말해주고, 출시 통제는 그것을 배포하는 데 얼마나 신뢰를 둘 수 있는지를 결정한다.

가장 좋은 다음 단계는 오픈 웨이트를 본질적으로 위험하다고 보거나, 폐쇄형 API를 본질적으로 안전하다고 보는 것이 아니다. 두 경우 모두에 대해 비교 가능한 증거를 요구하는 것이다. 투명한 평가, 문서화된 완화 조치, 현실적인 오남용 테스트, 그리고 배포 후의 명확한 책임성이다. 이러한 증거가 일상화되기 전까지는, 역량 경쟁은 그것을 지탱해야 할 안전 논거보다 더 빠르게 앞으로 나아갈 것이다.