트럼프와 기술 기업 CEO들, 법적 집행 없는 자율 AI 규범에 서명

도널드 트럼프 대통령과 기술 업계 고위 임원들은 백악관에서 인공지능 행동 규범에 서명했다. 그러나 이 합의는 법적 의무가 아닌 도덕적 의무로 명시적으로 제한돼 있다. AI 시스템에 대한 독립 검증과 안전성 테스트에 대한 추가 감독을 요구하면서도, 기업이 약속을 무시할 경우 어떤 일이 일어나는지는 답하지 않았다.

서명자에는 Meta CEO Mark Zuckerberg, OpenAI 임원 Greg Brockman, Nvidia CEO Jensen Huang, Elon Musk가 포함된 것으로 알려졌다. The Decoder는 Politico와 Reuters를 인용해 이 문서에 법적 효력이 없다고 설명했다. The Tech Buzz도 별도로 서명 소식을 보도했지만, 제공된 출처 자료에는 전체 기사 본문이 없었다.

이번 합의는 일반적으로 규제와 함께 등장하는 집행 장치 없이 AI 안전에 관해 정치권과 산업계가 내놓은 주목도 높은 성명이다. AI 개발자와 기업 구매자에게 실질적인 질문은 규범이 기업에 무엇을 요구하는지만이 아니라, 외부 검증이 독립적이고 반복 가능하며 실질적인 결과를 낳을 수 있는지 여부다.

규범이 요구하는 것

The Decoder의 보도에 따르면, 이 합의는 독립적인 제3자 감사인이 AI 모델이 “의도한 대로 작동하고 있는지” 확인하도록 요구한다. 이용 가능한 증거에는 어떤 감사인이 자격을 갖추는지, 평가를 얼마나 자주 실시할지, 어떤 기술 기준을 적용할지, 보고서를 공개할지 여부가 명시돼 있지 않다.

규범은 또한 AI 모델이 시스템을 해킹하는 것을 막기 위한 내부 안전 점검을 감독하는 별도의 독립 위원회를 요구한다. 이 조항은 텍스트나 이미지 생성 이상의 행동을 수행할 수 있는, 점점 더 자율적인 시스템을 겨냥한 것으로 보인다. 그러나 이용 가능한 보도는 위원회의 구성원, 권한, 재원, 기업의 기존 안전팀과의 관계를 밝히지 않았다.

The Decoder에 따르면 Zuckerberg는 이 규범을 최종 해결책이 아니라 출발점으로 규정했다. 이는 합의가 세부적인 준수 체계를 만들기보다 거버넌스의 방향을 제시하는 것으로 보인다는 점에서 중요하다. 테스트와 감독에 대한 기대치를 설정하지만, 공통의 기술적 정의, 의무적 사고 보고, 처벌을 만든다는 증거는 없다.

해결되지 않은 실패 지점을 가진 자율 합의

핵심적인 한계는 법적 지위다. The Decoder는 이 문서가 “도덕적으로 구속력이 있을” 뿐 법적 효력은 없다고 보도했다. 이용 가능한 출처 자료와 인용된 보도 어느 쪽도 기업이 약속을 위반했을 때 계약상, 규제상 또는 재정적 결과에 직면할 수 있는지 설명하지 않는다.

이 공백 때문에 집행은 가장 중요한 미해결 쟁점이 된다. 규범은 평판, 투자자 감시, 고객 압력을 통해 기업 행동에 영향을 줄 수 있지만, 이러한 장치는 법률상 요건이나 구속력 있는 조달 규칙보다 약하다. 또한 위반 사실이 공개되는지, 서명자들이 무엇을 위반으로 볼지 합의하는지에 달려 있다.

세부 사항이 부족하다는 점은 AI 에이전트를 배포하는 기업 고객에게 특히 중요하다. 구매자는 모델이 승인되지 않은 시스템에 접근하거나 운영 데이터를 변경하거나 안전하지 않은 행동을 할 수 없다는 증거를 원할 수 있다. 감사인의 보증이 도움이 될 수 있지만, 고객이 테스트 범위와 검사한 모델 버전, 시스템이 평가된 조건을 이해할 수 있을 때만 그렇다.

백악관의 개입이 중요한 이유

The Decoder에 따르면, 이번 합의는 정부 웹사이트에 접근했거나 사이버 공격에 관여한 통제되지 않은 AI 에이전트에 대한 우려가 커지는 가운데 나왔다. 이러한 우려는 AI 위험 논의의 변화를 규범과 연결한다. 초점이 모델의 출력 자체에서 웹을 탐색하고 도구를 호출하며 여러 단계의 작업을 수행할 수 있는 시스템으로 이동하고 있기 때문이다.

이러한 변화는 개발자에게 운영상의 질문을 제기한다. 안전성 점검은 권한, 인증, 샌드박싱, 모니터링, 배포 후 에이전트를 중단할 수 있는 능력을 고려해야 한다. 벤치마크에서 안전하게 작동하는 모델도 내부 소프트웨어, 공개 웹사이트, 민감한 업무 흐름에 연결되면 위험을 만들 수 있다. 보도된 규범은 안전장치의 필요성을 인정하지만, 실제 배포 환경에서 이를 어떻게 테스트할지는 이용 가능한 증거로 확인되지 않는다.

The Decoder는 트럼프가 10명으로 구성된 감독위원회도 제안했으며, AI 성장을 늦추고 싶지 않다고 거듭 강조했다고 보도했다. 이 위원회가 서명된 규범의 일부인지, 별도의 정부 제안인지, 합의에 언급된 독립 위원회와 어떻게 상호작용할지는 이용 가능한 자료에서 명확하지 않다.

같은 보도는 트럼프가 AI의 공식 명칭을 “Super Intelligence”로 변경하는 행정명령에 서명했다고 전했다. 해당 출처는 행정명령의 본문을 제시하지 않았고, 이 용어가 가져올 법적·행정적 결과도 설명하지 않았다. 따라서 이는 보도된 행정 조치로 봐야 하며, AI 시스템의 기술적 분류나 규제 방식이 바뀌었다는 증거로 보아서는 안 된다.

증거, 주장, 미해결 질문

이 설명에서 가장 강한 사실 주장은 Politico와 Reuters에 규범 관련 세부 사항을 돌린 The Decoder의 보도에서 나온다. The Tech Buzz는 제목과 요약에서 사건의 큰 틀을 확인했지만, 제공된 증거에는 전체 기사 본문이 없었다. 독립적인 검토를 위해 백악관 공식 문서, 서명된 규범 사본, 기업 성명은 제공되지 않았다.

따라서 합의의 정확한 문구에 대해 내릴 수 있는 결론에는 한계가 있다. 이용 가능한 보도로 확인되는 것은 트럼프와 기술 업계 지도자들이 AI 규범에 서명했고, 해당 문서가 도덕적 구속력을 가진 것으로 설명됐다는 점이다. 규범에 제3자 감사와 안전 감독을 위한 독립 위원회가 포함된다는 보도도 나왔다. 이러한 조직의 구성, 권한, 집행 절차는 이용 가능한 자료에서 검증되지 않았다.

The Decoder가 인용한 비판자들은 입법을 수반하지 않는 자율 규범은 실효성이 없을 수 있다고 주장하며, 유사한 자율 약속이 과거에도 시도됐다고 지적한다. 이는 시장의 해석이지 입증된 결과는 아니다. 그 중요성은 서명자들이 측정 가능한 요구 사항을 공개하는지, 고객·규제기관·투자자들이 이 규범을 검토의 기준으로 사용하는지에 달려 있다.

다음에 지켜볼 사항

첫 번째 신호는 전체 합의문과 이행 일정의 공개가 될 것이다. AI 팀은 “의도한 대로 작동한다”는 정의, 필요한 감사 방법, 공개 규칙, 평가 실패를 처리하는 절차를 살펴봐야 한다.

다음 쟁점은 제도 설계다. 독립 위원회의 구성과 권한, 제3자 감사인의 선정, 기밀 결과의 처리 방식이 이 프로그램이 상징적 약속 이상의 역할을 할 수 있는지를 결정할 것이다.

기업 구매자들은 이 규범을 언급하는 조달 요건도 지켜봐야 한다. 대형 고객이 감사 증거, 사고 보고, 에이전트 권한 제한을 요구한다면 법적 처벌이 없어도 자율 프레임워크가 실질적인 영향력을 얻을 수 있다. 기업이 계약, 배포 검토, 안전성 문서를 변경하지 않는다면 그 효과는 대체로 평판에 머물 수 있다.

Creati.ai의 관점

이번 서명은 모델 보증과 에이전트 안전을 정부와 산업계가 맺은 고위급 합의의 중심에 놓았다는 점에서 중요하다. 그러나 발표만으로 안전 표준이나 규제 체계가 되는 것은 아니다. 누가 감사하고, 무엇을 테스트하며, 실패 뒤에 무엇이 뒤따르는지라는 빠진 세부 사항이 신뢰할 수 있는 감독 체계의 핵심이다.

개발자와 기업 팀은 이 규범을 내부 통제의 대체물이 아니라 잠재적인 거버넌스 신호로 보는 것이 신중하다. 합의가 결국 의미 있는 업계 기준으로 발전하든 그렇지 않든, 접근 제한, 로깅, 인간 승인, 사고 대응은 여전히 필요하다.