AWS 透過全球推論在 Bedrock 上向澳洲團隊開放 OpenAI GPT-5.6 模型

AWS 現在讓澳洲團隊可透過 Bedrock 的雪梨與墨爾本端點呼叫 OpenAI GPT-5.6 模型,在不需本地模型路由的情況下擴大存取。

AI News

AWS 表示,澳洲團隊現在可透過 Amazon Bedrock 使用全球跨區域推論,存取 OpenAI 的 GPT-5.6 Sol、Terra 與 Luna 模型。應用程式可呼叫位於 Asia Pacific (Sydney) 或 Asia Pacific (Melbourne) AWS 區域的 Bedrock Runtime 端點,而 Amazon Bedrock 會將請求路由到受支援的商業 AWS 區域進行處理。

這項變更讓澳洲開發者擁有一個本地 AWS 入口點,可連接到更大的容量池,而不需要他們的應用程式識別或管理目的地區域。對於建立程式設計工具、代理與正式環境 AI 服務的團隊而言,這項公告將模型存取與他們雲端環境中已使用的 AWS 身分、監控與部署控制結合起來。

三個模型、兩個澳洲來源區域

根據 AWS Machine Learning Blog 的一篇文章,最新文件化的存取涵蓋三個 OpenAI 模型。AWS 將 GPT-5.6 Sol 定位為適用於高要求推理、程式設計與代理型工作負載;Terra 用於在效能與成本之間取得平衡;而 Luna 則適用於高流量或低延遲敏感的推論。

AWS 表示,這三個模型都支援文字與圖片輸入、產生文字,並支援最高達 100 萬 tokens 的上下文視窗。這些能力是 AWS 文件中由供應商提供的產品描述,並非對模型品質或延遲的獨立評估。

澳洲來源區域為 Asia Pacific (Sydney),AWS 將其標示為 ap-southeast-2,以及 Asia Pacific (Melbourne),標示為 ap-southeast-4。公司提醒,跨區域設定檔的成員資格與模型可用性可能會變動,因此在部署前需要確認。

這種安排不同於將推論完全保留在澳洲來源區域內。應用程式會將請求送至區域性 Bedrock 端點,但實際處理可能會在另一個受支援的商業 AWS 區域中進行。對於評估資料傳輸規則、合約控制、資料駐留要求以及工作負載特定合規政策的企業而言,這一區別相當重要。

既有應用程式路徑仍可使用

AWS 文件化了三種透過 Amazon Bedrock Runtime 呼叫模型的方法:OpenAI Responses API、OpenAI Chat Completions API,以及 Amazon Bedrock Converse API。

已使用 OpenAI SDK 的團隊可以將 Responses API 或 Chat Completions API 指向區域性的 Bedrock Runtime 端點。這些相容 OpenAI 的介面使用的是 /openai/v1 路徑,而非 AWS SDK。應用程式可透過 AWS Signature Version 4 或 Bedrock 模型推論 API 金鑰進行驗證。

AWS 範例使用 AWS Bedrock Token Generator for Python,從既有 AWS 憑證建立短效推論金鑰。這種做法可降低將靜態模型金鑰放入應用程式設定的需要,但團隊仍須妥善管理 AWS 權限與憑證安全。

對於以 AWS SDK 為基礎的應用程式,Converse API 提供原生 Bedrock 路徑。AWS 展示了使用 Boto3 與標準 AWS 憑證鏈的範例,並可透過 converse_stream 使用串流支援。同樣的程式碼模式可透過變更來源區域,從雪梨套用到墨爾本。

文件也涵蓋提示快取。AWS 表示,隱式快取預設啟用,而顯式快取可讓開發者定義可重用前綴、快取邊界與快取金鑰。對於反覆傳送大型系統指令、工具定義或其他穩定上下文的應用程式而言,快取可能有其關聯性,但該文章並未提供獨立的節省數字或特定工作負載的成本結果。

Codex 設定將模型存取與 AWS 身分連結

AWS 文章進一步說明,Codex 可如何透過 Amazon Bedrock Runtime 使用全球推論設定檔,將整合擴展到 API 呼叫之外。文章指出,最新的 Codex CLI 包含原生 Bedrock Runtime 模型提供者,並報告使用來自雪梨的 GPT-5.6 Sol 與 codex-cli 0.149.1 進行驗證。

對於使用外部身分提供者的組織,AWS 描述了一條基於暫時 AWS 憑證的 OpenID Connect 路徑。文件中的協助工具支援包括 Okta、Auth0、Microsoft Entra ID、Amazon Cognito 與 AWS IAM Identity Center 等提供者。OIDC 權杖會交換成暫時憑證,Codex 可透過標準 AWS 憑證鏈加以使用。

這種設定可能吸引希望以既有 AWS 聯邦與 IAM 政策來治理程式設計助理,而非使用獨立且長效憑證的企業開發團隊。這也意味著營運負擔會轉向正確設定身分提供者、聯邦資源、IAM 角色與本地 AWS 設定檔。

證據主要來自 AWS 文件

這則新聞基於單一由 AWS 掌控的來源:AWS Machine Learning Blog。該來源確認 AWS 正透過雪梨與墨爾本的全球推論設定檔,文件化並公開這三個 OpenAI 模型,並提供 API、提示快取、Codex 與監控的實作指引。

對模型最強的定位主張,例如 Sol 適合高要求推理、Luna 適合低延遲且高流量使用,皆來自 AWS,應視為供應商主張。該來源未提供獨立基準測試結果、雪梨與墨爾本之間的比較延遲資料,或證明處理會穩定地發生在某個特定目的地區域的證據。

AWS 也建議開發者使用 Amazon CloudWatch 與 Coding Agent Insights 進行使用監控。該文章未報告採用數據、客戶部署、服務等級結果或實際成本降低。因此,建構者仍須以自身工作負載驗證吞吐量、延遲、快取行為、token 成本與營運可靠性。

這項變更對建構者與企業代表什麼

對開發者而言,主要好處是在不同模型介面之間提供單一 Bedrock 整合模式。團隊可保留相容 OpenAI 的應用程式程式碼,在適當情況下使用原生 Bedrock API,並依賴 AWS 憑證機制,而不是為受支援的全球設定檔另建一層路由。

對企業買家而言,更重要的問題是跨區域處理是否符合既有治理規則。僅有雪梨或墨爾本端點,並不能單獨證明提示與輸出會留在澳洲。法務、資安與採購團隊在啟用正式流量前,應檢視相關 AWS 文件、允許的區域、服務政策與組織層級的服務控制政策。

這項功能也可能簡化容量規劃。更廣的處理池可降低應用團隊手動選擇目的地區域的需求,但也引入對 AWS 路由行為與設定檔可用性的依賴。可靠性測試應包含節流、故障轉移假設、串流行為,以及模型設定檔成員資格變更的後果。

AWS 要求已啟用的雪梨或墨爾本帳戶區域、適當的 IAM 權限,以及在適用時允許 GPT-5.6 全球推論設定檔的服務控制政策。這些前置條件使此產品對已在 AWS 上運作的團隊比尋找獨立 OpenAI 端點的開發者更具即時相關性。

接下來要關注什麼

第一個訊號將是 AWS 是否擴充 OpenAI 模型陣容,或新增更多澳洲來源區域與設定檔選項。AWS 提醒設定檔成員資格可能變動,也使跨區域推論支援頁面成為重要的部署參考。

評估此服務的團隊應留意延遲、區域處理行為、token 經濟性,以及提示快取節省的獨立測量。客戶案例研究會比目前以實作為主的文章更能清楚呈現採用情況。

同樣值得追蹤的是,Codex 支援是否會超越文件中的設定進一步發展,包括更強的企業政策控制、更豐富的監控,以及與 AWS IAM Identity Center 與其他聯邦身分系統更清楚的整合。

Creati.ai 觀點

AWS 的公告與其說是導入新的模型介面,不如說是將 OpenAI 模型置入澳洲客戶既有的雲端控制平面中。實際價值在於將相容 OpenAI 的 API 與 Bedrock 驗證、IAM、監控及跨區域容量管理結合。

這種便利並不會消除架構與合規檢查的需求。澳洲團隊應將區域端點視為存取位置,而非僅在澳洲處理的證明,並在投入正式工作負載前先對模型進行基準測試。最明顯的早期受益者,是重視整合式治理與部署、勝過直接控制模型路由的 AWS 原生工程組織。

廣告