OpenAI는 Zero Data Retention(ZDR)을 사용하는 적격 API 고객을 위한 새로운 안전 모니터링 시스템을 준비하고 있다. 이는 엔터프라이즈 AI에서 커지고 있는 긴장에 대응하기 위한 것으로, 고급 모델은 오남용을 탐지하기 위해 더 많은 문맥이 필요한 반면 고객은 민감한 프롬프트와 응답이 계속 비공개로 유지되기를 점점 더 요구하고 있다.

회사는 OpenAI News 게시물에서 Private Safety Processing이 초기 고객들과 함께 테스트되고 있다고 밝혔다. 이 제안된 시스템은 OpenAI 직원에게 기반 콘텐츠에 대한 접근 권한을 주지 않은 채 관련 상호작용 전반의 패턴을 분석하게 된다. OpenAI는 9월에 이를 순차적으로 배포하고 기술 백서를 공개할 계획이라고 했지만, 구체적인 출시일이나 상세한 도입 일정은 제시하지 않았다.

OpenAI가 바꾸는 것

Zero Data Retention 하에서 OpenAI는 적격 고객의 프롬프트나 모델 응답을 요청 처리 후 보관하지 않는다고 말한다. 고객 콘텐츠는 OpenAI 직원이 검토할 수 없으며, 고객이 명시적으로 동의하지 않는 한 기업 데이터는 모델 학습에 사용되지 않는다.

이러한 통제 모델은 역사적으로 여러 교환에 걸친 안전성 분석을 수행하기 어렵게 만들었다. OpenAI는 기존의 ZDR 호환 시스템이 상호작용을 개별적으로 평가한다고 설명한다. Private Safety Processing은 이러한 점검을 관련 상호작용 전반으로 확장해, 단일 요청에서는 보이지 않을 수 있는 패턴을 자동 시스템이 찾을 수 있도록 하는 것을 목표로 한다.

회사는 시간이 지나면서 드러날 수 있는 여러 위험 사례를 제시했다. 보호장치를 우회하려는 반복 시도, 계정 간에 조율된 활동, 일반적인 연구처럼 위장된 위협, 또는 사용자가 중단하라고 말한 뒤에도 계속 행동하는 AI 에이전트 등이 그것이다. 이번 발표는 이 제안을 최첨단 모델의 복잡성 증가와 더 오래 실행되는 AI 에이전트와 직접 연결한다.

OpenAI는 두 가지 가능한 저장 방식을 제시했다. 하나는 콘텐츠가 고객이 통제하는 인프라에 남는 방식이다. 다른 하나는 콘텐츠가 OpenAI 인프라에 저장되되 고객이 통제하는 키로 암호화되는 방식이다. OpenAI는 자사 직원이 해당 키의 복사본을 보유하지 않으므로 기반 프롬프트나 응답에 접근할 수 없다고 말한다.

제안된 안전 계층이 작동하는 방식

자동 시스템이 잠재적 위험을 식별하면, OpenAI는 고객 콘텐츠가 아니라 관련 활동의 유형을 설명하는 좁게 정의된 신호를 회사에 보낸다고 말한다. OpenAI는 그 신호를 사용해 집행 조치가 필요한지 결정할 수 있으며, 고객은 기반 정보를 자사 시스템에 계속 보관한다.

고객은 자사 환경에서 이용 가능한 정보를 사용해 경고와 집행 결정을 조사할 수 있다. 또한 결정을 항의하거나, 정당한 활동을 설명하거나, 확인된 남용 조사에 도움을 주고 싶다면 관련 자료를 OpenAI와 공유할 수도 있다.

이 설계는 안전 집행과 고객 데이터에 대한 일상적인 인간 접근을 분리하려는 시도다. 그렇다고 해서 데이터가 절대 보관되지 않는다는 뜻은 아니다. OpenAI는 아동 성적 학대 सामग्री의 가능성이 있는 것으로 표시된 이미지는 법적 요구 사항 때문에 ZDR 배포 환경에서도 수동 검토 및 신고를 위해 계속 보관될 것이라고 명시했다.

이번 발표는 또한 중요한 기술적 질문들을 남긴다. OpenAI는 아직 아키텍처, 위험 신호의 보관 방식, 실패율, 고객이 받게 될 정확한 제어 기능을 공개하지 않았다. 이러한 세부사항은 엄격한 개인정보 보호, 감사, 규제 요건을 가진 조직에 이 시스템이 적합한지 판단하는 데 핵심이 될 것이다.

발표의 근거와 한계

제품 계획에 대한 주요 근거는 OpenAI 자체 발표다. 두 번째 출처 항목은 Google News 검색을 통해 같은 제목을 싣고 있지만 전체 기사 본문을 확인할 수 없어 기술적 주장에 대한 독립적인 입증이나 추가 시장 보도를 제공하지 않는다.

따라서 Zero Data Retention, 암호화, 직원 접근, Private Safety Processing에 관한 OpenAI의 설명은 공급업체가 보고한 제품 약속과 계획으로 보아야 한다. 회사는 새 시스템이 현재 초기 고객들과 테스트 중이라고 말했지만, 해당 고객을 밝히거나 도입 수치를 제공하지는 않았다.

게시물에는 Glean의 긍정적 코멘트도 포함되어 있다. Glean은 OpenAI의 학습 미실시 약속과 ZDR 정책이 OpenAI와 함께 구축하기로 한 결정에 도움이 되었다고 말했다. 이는 개별 고객 또는 파트너의 지지일 뿐, 광범위한 엔터프라이즈 채택의 독립적 증거는 아니다. OpenAI는 또한 산업, 지역, 회사 규모가 다양한 조직들로부터 피드백을 받았다고 했지만, 그 조직들의 구체적인 구분은 제공하지 않았다.

개인정보 보호형 안전성에 대한 가장 강한 주장은 OpenAI가 약속한 기술 문서를 공개하고 고객이 실제 운영 환경에서 제어 기능을 평가할 수 있을 때까지는 잠정적이다. 특히 구매자들은 어떤 메타데이터가 생성되는지, 안전 신호가 얼마나 오래 보관되는지, 누가 접근할 수 있는지, 자동화된 집행 결정에 어떻게 이의를 제기할 수 있는지를 이해해야 한다.

빌더와 기업에 중요한 이유

최첨단 모델을 중심으로 애플리케이션을 만드는 제품 팀에게 이번 발표는 실질적인 배포 문제를 다룬다. 많은 워크플로에는 기밀 기록, 독점 연구, 건강 정보, 금융 데이터 또는 사업 계획이 포함된다. 안전 검토를 위해 제공자가 콘텐츠를 보관해야 한다면, 모델 자체가 이를 지원할 수 있더라도 이런 애플리케이션은 막힐 수 있다.

Private Safety Processing은 여러 턴에 걸쳐 작동하거나 AI 에이전트를 반복 호출하는 애플리케이션에서 ZDR을 더 실용적으로 만들 수 있다. 코딩 보조 도구, 연구 워크플로, 고객 서비스 시스템은 각각 개별적으로는 평범해 보이지만 함께 보면 우려되는 일련의 요청을 생성할 수 있다. 반대로, 정당한 활동이 잘못 분류되거나 고객이 왜 경고가 발행되었는지 재구성할 수 없을 때 다단계 모니터링은 새로운 위험을 만들 수 있다.

이 제안은 운영 책임의 일부를 고객에게도 넘긴다. OpenAI가 기반 콘텐츠를 보지 않는다면 고객은 강력한 내부 로깅, 접근 제어, 사고 대응 및 조사 도구가 필요하다. 이는 민감한 자료를 자체 환경에 유지할 수 있기 때문에 규제 대상 조직에는 매력적일 수 있지만, 동시에 개인정보 보호가 고객 자신의 인프라와 거버넌스에 부분적으로 의존하게 된다는 뜻이기도 하다.

AI 빌더들에게 핵심적인 상업적 질문은 더 강한 개인정보 보호 보장과 신뢰할 수 있는 오남용 탐지가 공존할 수 있는가 하는 점이다. 더 많은 데이터를 보관하는 제공자는 중앙 집중형 모니터링을 더 쉽게 제공할 수 있는 반면, ZDR 스타일의 배포는 고객 통제를 더 엄격하게 해주지만 더 복잡한 기술적 구성이 필요하다. OpenAI는 새 시스템을 ZDR을 포기하지 않고도 그 격차를 좁히는 방법으로 포지셔닝하고 있다.

다음에 주목할 점

첫 번째 신호는 OpenAI가 계획한 9월 배포와 기술 백서가 될 것이다. 구매자들은 “관련 상호작용”의 정확한 정의, 자동 분석 범위, 안전 신호의 보관 기간, 직원 접근의 한계를 확인해야 한다.

초기 고객 배포는 시스템이 허용할 수 없는 거짓 양성 없이 조율된 오남용을 식별할 수 있는지도 보여줄 것이다. 지연 시간, 집행 일관성, 이의 제기 처리, 고객 통제 인프라 지원에 대한 증거는 발표 그 자체보다 더 중요하다.

또 다른 쟁점은 Private Safety Processing이 모든 최첨단 모델과 API 사용 패턴을 포괄할지, 아니면 일부 제품과 고객에만 적용될지다. OpenAI는 이를 ZDR과 호환된다고 설명했지만, 자격 기준, 가격, 지역별 제공 여부, 서비스 수준 약속은 명시하지 않았다.

Creati.ai 관점

OpenAI의 미리보기는 엔터프라이즈 AI에서 가장 어려운 트레이드오프 중 하나를 겨냥한다. 안전 시스템은 광범위한 행동 문맥의 이점을 얻는 경우가 많지만, 고객은 제공자가 자신의 데이터를 가능한 한 적게 보기를 원한다. 암호화된 콘텐츠, 고객 보유 키, 제한된 위험 신호를 기반으로 하는 설계는 설득력 있는 방향이지만, 그 가치는 기술적 투명성과 운영 성능에 달려 있다.

현재로서는 완성된 기능이 아니라 테스트 중인 제품 약속이다. 빌더와 기업 구매자들은 ZDR을 중요한 개인정보 경계로 간주하면서, 기술 문서와 실제 운영 결과를 기다려 Private Safety Processing이 오남용 탐지, 감사, 이의 제기, 예외적인 법적 사례를 어떻게 처리하는지 검증해야 한다.