
OpenAI 正在為使用 Zero Data Retention(ZDR)的合格 API 客戶準備一套新的安全監控系統,這是在回應企業 AI 中日益增長的張力:先進模型需要更多上下文來偵測濫用,而客戶則越來越要求敏感的提示詞與回應保持私密。
該公司在一篇 OpenAI News 貼文中表示,Private Safety Processing 正在與早期客戶進行測試。這個提議中的系統將在不讓 OpenAI 人員存取底層內容的情況下,分析相關互動之間的模式。OpenAI 計劃於 9 月開始推出並發布技術白皮書,但沒有提供具體的發佈日期或詳細部署時間表。
在 Zero Data Retention 下,OpenAI 表示,在處理請求後,不會保留合格客戶的提示詞或模型回應。客戶內容不會提供給 OpenAI 員工審查,企業資料也不會用於訓練模型,除非客戶明確選擇加入。
這種控制模式過去使得跨多次互動進行安全分析變得更困難。OpenAI 表示,現有的 ZDR 相容系統是逐一評估每次互動。Private Safety Processing 的目的,是將這些檢查延伸到相關互動,讓自動化系統能尋找單一請求中未必看得見的模式。
公司列舉了幾種可能隨時間浮現的風險:反覆嘗試繞過防護措施、跨帳號協同的活動、偽裝成普通研究的威脅,或是使用者已要求停止後仍持續行動的 AI 代理。這項公告也直接把提案與前沿模型日益複雜,以及較長時間運作的AI 代理連結起來。
OpenAI 描述了兩種可能的儲存方式。一種是內容保留在由客戶控制的基礎設施上。另一種是內容可儲存在 OpenAI 基礎設施上,但以由客戶控制的金鑰加密。OpenAI 表示,其人員不會持有這些金鑰的副本,因此無法存取底層提示詞或回應。
如果自動化系統識別出潛在風險,OpenAI 表示,它們會向公司傳送一個定義明確的訊號,說明涉及的活動類型,而不是客戶內容本身。OpenAI 可利用該訊號決定是否需要執行處置,而客戶則保留其系統中的底層資訊。
客戶可以使用其環境中可用的資訊來調查警示與處置決定。若他們想對某項決定提出申訴、解釋正當活動,或協助調查已確認的濫用,也可以選擇與 OpenAI 分享相關材料。
這種設計試圖將安全執行與對客戶資料的日常人工存取分開。這並不表示資料永遠不會被保留。OpenAI 明確指出,被標記為可能的兒少性虐待素材的圖片,將繼續為了人工審查與通報而保留,即使在 ZDR 部署中也是如此,因為有法律要求。
這項公告也留下了一些重要的技術問題尚未解答。OpenAI 尚未公布架構、風險訊號的保留機制、失敗率,或客戶將獲得的 دقیق控制措施。這些細節將是判斷該系統是否能滿足嚴格隱私、稽核與法規要求組織的關鍵。
產品計畫的主要證據來自 OpenAI 自身的公告。第二個來源項目透過 Google News 查詢顯示相同標題,但全文無法取得,因此無法獨立佐證技術主張,也沒有提供額外的市場報導。
因此,OpenAI 關於 Zero Data Retention、加密、員工存取與 Private Safety Processing 的說法,應視為供應商所提出的產品承諾與計畫。公司表示新系統目前正在與早期客戶測試,但未點名這些客戶,也未提供採用數據。
該貼文還包含 Glean 的正面評論,稱 OpenAI 不訓練承諾與 ZDR 政策支持了其與 OpenAI 合作開發的決定。這是個別客戶或合作夥伴的背書,不是廣泛企業採用的獨立證據。OpenAI 也表示已收到來自不同產業、地區與公司規模的組織回饋,但沒有提供這些組織的細項。
關於隱私保護式安全性的最強主張,在 OpenAI 發布承諾中的技術文件、且客戶能在生產環境中評估控制措施之前,都只能視為前瞻性說法。特別是,買家需要了解會產生哪些中繼資料、安全訊號會保存多久、誰可以存取,以及如何對自動化執行決定提出異議。
對於圍繞前沿模型打造應用的產品團隊來說,這項公告解決了一個實際的部署問題。許多工作流程涉及機密紀錄、專有研究、健康資訊、財務資料或商業計畫。若供應商必須為了安全審查而保留內容,即使模型本身有能力支援,這些應用也可能無法上線。
Private Safety Processing 可能讓 ZDR 在多輪對話或反覆呼叫 AI 代理的應用中更可行。程式設計助手、研究工作流程或客戶服務系統,可能會產生一連串單獨看來都很普通的請求,但把它們放在一起看時才變得令人擔憂。反過來說,如果合法活動被誤分類,或者客戶無法重建為何觸發警示,多步驟監控也可能帶來新的風險。
這個提案也把部分營運責任轉移給客戶。若 OpenAI 看不到底層內容,客戶就需要強大的內部記錄、存取控制、事件回應與調查工具。這對受監管組織可能很有吸引力,因為敏感資料仍留在其環境中,但也代表隱私保護將部分取決於客戶自身的基礎設施與治理。
對 AI 開發者而言,核心商業問題是:更強的隱私保證能否與可靠的濫用偵測並存。保留更多資料的供應商可能提供較簡單的集中式監控,而 ZDR 風格的部署則給予客戶更嚴格的控制,但需要更複雜的技術安排。OpenAI 正將其新系統定位為一種在不放棄 ZDR 的情況下縮小這個差距的方法。
第一個訊號將是 OpenAI 計劃於 9 月推出的部署與技術白皮書。買家應留意「相關互動」的明確定義、自動分析的範圍、安全訊號的保留期間,以及員工存取的界線。
早期客戶部署也會顯示該系統是否能辨識協同濫用,而不產生不可接受的誤判。關於延遲、執行一致性、申訴處理,以及對客戶控制基礎設施的支援等證據,將比公告本身更重要。
另一個問題是,Private Safety Processing 會涵蓋所有前沿模型與 API 使用模式,還是只限於特定產品與客戶。OpenAI 將其描述為與 ZDR 相容,但並未說明資格條件、價格、區域可用性或服務等級承諾。
OpenAI 的預覽瞄準了企業 AI中最棘手的取捨之一:安全系統通常受益於廣泛的行為上下文,而客戶則希望供應商盡可能少看到他們的資料。基於加密內容、由客戶持有金鑰與有限風險訊號的設計是一條可信的方向,但其價值將取決於技術透明度與營運表現。
目前來看,這是一項正在測試中的產品承諾,而不是已完成的能力。開發者與企業買家應將 ZDR 視為一條重要的隱私邊界,同時等待技術文件與生產結果,以驗證 Private Safety Processing 如何處理濫用偵測、稽核、申訴,以及特殊法律案例。
OpenAI 正在為 Zero Data Retention 客戶預覽 Private Safety Processing,目標是在不讓員工看到提示詞的情況下偵測跨多個工作階段的濫用。