Anthropic의 Fable 보존 정책이 AI 랩의 미해결 데이터 신뢰 문제를 드러내다
Anthropic의 Fable 보존 정책이 기업들의 사용 중단을 촉발하며, 제로 데이터 보존 약속이 AI 신뢰 위험을 해결하지 못한 이유를 보여준다.
Anthropic이 주력 모델 Fable의 사용 로그를 30일간 보관하기로 한 결정은, The Decoder가 인용한 The Information 보도에 따르면 여러 주요 고객이 민감한 업무에서 해당 시스템을 제한하거나 차단하도록 만들었다. 이 사건은 학습 제외와 데이터 보존에 대한 기업용 보장이 고객 입장에서 여전히 평가하고 신뢰하기 어렵다는 점을 보여준다.
보도에 따르면 Nvidia는 Fable을 덜 민감한 업무로 제한하고 있으며, Booz Allen Hamilton은 독점 사이버보안 소프트웨어에 대한 사용을 금지했다. Palantir는 Anthropic이 철회 불가능한 제로 데이터 보존 보장을 제공할 때까지 자사 플랫폼을 통한 Fable 배포를 차단하고 있다. 이 반응은 악용 모니터링을 지원하기 위한 정책을, 최첨단 AI 제공업체가 기업 및 정부 구매자의 데이터 통제 기대를 충족할 수 있는지 시험하는 시험대로 바꾸어 놓았다.
Anthropic의 Fable 정책이 기업의 갈등 지점이 되다
Anthropic은 The Decoder의 설명에 따르면, “복잡하고 새로운 공격”에 대비하기 위해 6월에 30일 로그 보존 정책을 도입했다. 그러나 지식재산, 소스 코드, 보안 연구, 운영 데이터를 다루는 고객에게는 로그 보존이 또 다른 위험을 만든다. 민감한 프롬프트와 출력이 제공업체에 계속 접근 가능한 상태로 남거나 더 넓은 내부 데이터 관리 시스템의 일부가 될 수 있기 때문이다.
이러한 반응이 특히 주목되는 이유는 Nvidia가 Anthropic에 투자했으며, 회사의 모델 개발에 사용되는 하드웨어를 공급하고 있기 때문이다. Nvidia Enterprise AI 부사장 Justin Boitano는 The Information에 제로 데이터 보존, 즉 ZDR이 기본값으로 활성화되어야 한다고 회사는 믿는다고 말했다. Nvidia는 대신 AI 지원 공급망 모니터링 같은 내부 애플리케이션에는 자사의 Nemotron 모델을 사용하고, Fable은 오픈소스 프로젝트를 포함한 덜 민감한 작업에 남겨두고 있다.
Anthropic의 Mythos 모델을 초기에 사용했던 Booz Allen Hamilton은 직원들이 Fable을 독점 사이버보안 소프트웨어에 사용하지 못하도록 했다고 전해진다. CTO Bill Vass는 모델이 자사 코드로부터 학습할 수 있다는 점을 우려했다고 말했다. Palantir의 입장에도 상업적 측면이 있다. 고객이 외부 제공업체에 직접 연결하는 대신 자사가 통제하는 플랫폼을 통해 모델을 실행할수록 회사는 이익을 얻는다. 이 인센티브가 우려를 무효화하는 것은 아니지만, 회사의 반대가 얼마나 강한지 평가할 때 중요한 맥락이다.
제로 보존이 모든 데이터 질문에 답해주지는 않는다
Anthropic은 기업의 반발과 OpenAI가 8월에 GPT-5.6 Cyber 고객이 보안 로그를 자체 서버에 저장할 수 있도록 허용한 결정 이후, 고객이 관리하는 보안 로그 프로그램으로 이동하고 있는 것으로 전해졌다. Anthropic의 유사 프로그램은 가을에 일부 고객에게 배포될 예정이라고 원문 자료는 전한다. 그러나 이 프로그램이 얼마나 광범위하게 제공될지, 모든 유형의 기업 상호작용을 포함할지는 알려지지 않았다.
또 다른 복잡한 점은 제로 보존이 저장된 콘텐츠에 적용될 뿐, 고객이 AI 서비스를 사용할 때 생성되는 모든 정보에 반드시 적용되는 것은 아니라는 점이다. The Decoder는 Anthropic과 OpenAI가 모두 기업 고객으로부터 메타데이터와 기술적 사용 데이터를 수집한다고 보도했다. OpenAI는 이 중 일부를 비식별화된 정보라고 설명하며, 자동 분류기와 보안 도구가 서비스 이용 방식을 이해하기 위해 비즈니스 데이터를 분석한다고 말한다. 회사는 이러한 분류에 기초 비즈니스 데이터가 아니라 메타데이터가 포함된다고 설명한다.
이 구분이 모든 고객을 만족시키지는 못했다. 보도에 따르면 일부 조직은 메타데이터에 무엇이 포함되는지, 얼마나 오래 보관되는지, 그리고 상업적으로 가치 있는 패턴을 드러낼 수 있는지에 대해 여전히 확신하지 못하고 있다. 따라서 조달팀의 질문은 단순히 제공업체가 프롬프트를 저장하느냐의 문제가 아니다. 로그, 텔레메트리, 분류기, 디버깅 기록, 악용 모니터링 시스템, 그리고 제품 개선이나 장애 탐지에 사용되는 파생 정보까지 포함된다.
증거와 주장은 여전히 비교하기 어렵다
이 기사에서 핵심 주장들은 Anthropic이나 OpenAI 시스템에 대한 독립적 감사가 아니라, 보도된 고객 결정과 임원 발언에 기반한다. The Decoder가 요약한 The Information의 보도가 Nvidia의 제한, Booz Allen Hamilton의 내부 금지, Palantir의 배포 정책에 대한 설명의 근거다. Anthropic의 향후 고객 관리형 로깅 옵션 역시 여기서는 완전한 공개 제품 사양이 아니라 보도로 제시된다.
이 논쟁은 직접적인 모델 학습을 넘어선다. 전 OpenAI 공동창업자 John Schulman은 고객 데이터의 가능한 사용 범위를 직접적인 사전학습부터 사용자 추적 기반의 증류와 강화학습 작업까지 다양한 스펙트럼으로 설명했다. 그는 비식별화가 지식재산 유출에 대한 약한 방어라고 주장하며 더 강한 공개 규범을 요구했다. 이후 정정에서 Schulman은 대규모 사전학습과 강화학습에 비하면 사용자 데이터가 최전선 성능 향상에 크게 기여할 가능성은 낮다고 말했다. 다만 그는 그러한 데이터가 실패 모드와 현실의 어려운 사례를 식별하는 데 도움이 될 수 있다고 덧붙였다.
연구자 Sarah Hooker는 관련 우려로, 합성 데이터 방식이 원본 자료를 직접 보존하거나 재현하지 않고도 유용한 통계 패턴을 추출하게 할 수 있다고 지적했다. 이는 중요한 기술적 가능성이지만, 출처는 Anthropic이나 OpenAI가 특정 고객의 데이터를 이런 방식으로 사용했다고 밝히지 않는다. 오히려 계약 문구가 “학습”에만 초점을 맞출 경우, 파생 신호와 모델 개발 워크플로에 대해 고객이 불확실함을 느낄 수밖에 없는 이유를 보여준다.
이 우려가 더 구체적으로 다가온 것은 수학자 Tristan Buckmaster와 공동저자 Levent Alpöge가 Navier–Stokes 방정식을 연구하면서 OpenAI의 Codex를 사용했고, 이후 OpenAI가 비슷한 해법 경로를 포함한 돌파구를 제시하는 것을 봤다고 말한 이후였다. OpenAI는 처음에는 익명화된 제품 데이터의 기여를 배제할 수 없다고 했지만, 나중에는 해당 기간의 프롬프트가 시스템에 영향을 미칠 수 없었다고 밝혔다. 이 사건은 오용을 입증하지는 못했지만, 연구자가 입력이 어떻게 처리되었는지 독립적으로 추적할 수 없을 때 신뢰가 얼마나 빠르게 무너질 수 있는지를 보여줬다.
제작자와 기업 구매자에 대한 시사점
AI 제품 팀에게 실질적인 교훈은, 공급업체의 “업무 데이터로 학습하지 않음” 약속은 여러 통제 수단 중 하나에 불과하다는 점이다. 코딩, 보안, 연구, 운영용으로 모델을 배포하는 팀은 프롬프트 저장, 응답 로그, 악용 모니터링, 지원 접근, 메타데이터 생성, 보존 기간, 하도급 업체, 모델 개선 프로세스 등 데이터의 전체 경로를 파악해야 한다.
개발자들은 민감한 작업을 Nvidia의 Nemotron 같은 자체 호스팅 또는 내부 통제 모델로 라우팅하거나, 저위험 및 고위험 워크로드를 분리하거나, 고객 관리형 로깅을 요구하는 방식으로 대응할 수 있다. 이러한 접근은 노출을 줄일 수 있지만, 인프라, 평가, 모델 업데이트, 운영 지원 비용을 추가로 발생시킨다. 작은 회사는 대안이 적어, 대기업은 협상할 수 있는 공급업체 정책을 그대로 받아들여야 할 수 있다.
이 논쟁은 경쟁 측면도 제기한다. 최전선 랩은 신뢰성 향상과 공격 식별을 위해 실제 사용 신호에 접근하려 하고, 기업 구매자는 같은 상호작용이 고립된 상태로 유지되길 원한다. 정교한 보존 제어, 감사 가능한 텔레메트리 정책, 파생 데이터에 대한 명확한 경계를 제공하는 공급업체는 벤치마크에서 모델이 가장 강하지 않더라도 유리해질 수 있다.
다음에 주목할 점
가장 즉각적인 신호는 Anthropic의 고객 관리형 로깅 프로그램 범위다. 어떤 고객이 자격을 갖는지, Fable 사용 전체를 포함하는지, 남는 메타데이터가 Anthropic에 남아 있는지 확인해야 한다. 구매자는 또한 OpenAI와 다른 제공업체가 “비식별화된” 데이터를 어떻게 정의하는지, 보존 기간과 허용 용도까지 포함해 더 명확한 설명을 주시해야 한다.
두 번째 신호는 정책 변경 후 Nvidia, Booz Allen Hamilton, Palantir가 Fable에 대한 더 넓은 접근을 복원할지 여부다. 더 많은 고객 공개, 독립 감사, 계약 템플릿은 시장이 일반적 보장에서 검증 가능한 통제로 이동하고 있음을 시사할 수 있다. 반대로 민감한 작업에 별도의 내부 모델을 계속 사용한다면, 신뢰는 여전히 배포 제약이지 단순한 조달 세부사항이 아님을 의미한다.
Creati.ai 관점
Fable 분쟁은 AI 랩이 모든 기업 프롬프트를 몰래 학습에 사용하고 있다는 증거가 아니다. 오히려 현재 정책이 너무 많은 해석의 여지를 남겨두고 있다는 증거다. “학습하지 않음”과 “제로 데이터 보존”은 중요한 위험을 다루지만, 텔레메트리, 악용 탐지 신호, 파생 데이터, 제공업체 시스템의 임시 접근이 어떻게 처리되는지는 충분히 설명하지 못한다.
AI 구매자에게 신뢰는 이제 마케팅 문구가 아니라 아키텍처와 거버넌스의 문제다. 데이터 흐름을 관찰 가능하고, 설정 가능하며, 계약으로 강제할 수 있게 만드는 공급업체가 민감한 워크로드를 확보하는 데 더 유리할 것이다. 그때까지 기업들은 편리한 AI 사용과, 불투명한 모델 서비스 안에 넣기에는 너무 가치 있다고 여기는 업무를 계속 분리할 것이다.
