Cisco AI Defense 將加入 Anthropic 的 Claude Mythos，用於 AI 紅隊測試

根據 Cisco 的公告及 CRN 的報導，Cisco 正準備將 Anthropic 的 Claude Mythos 加入 Cisco AI Defense，用於 AI 紅隊測試。此舉將把 Cisco 的 AI 安全平台與 Anthropic 用於 AI 應用程式對抗性測試的系統連結起來。

這項公告之所以重要，是因為企業正從生成式 AI 實驗，轉向部署能夠存取敏感資料和業務系統的助理、代理程式及模型驅動工作流程。在這項轉型中，紅隊測試正逐漸成為實際要求：團隊必須在應用程式交付給使用者之前，測試它在面對惡意、誤導性或意外輸入時的行為。

已宣布的整合

Cisco 官方部落格將 Claude Mythos 列為 Cisco AI Defense AI 紅隊測試能力的計畫新增項目。公司在提供的公告中沒有說明整合的完整技術範圍，包括 Claude Mythos 是否會全面開放、哪些 AI Defense 方案會包含這項功能，以及客戶何時可以使用。

CRN 將這項發展描述為 Cisco 將 Anthropic 的 Claude Mythos 用於 AI Defense 紅隊測試。這種說法將該公告定位為合作夥伴關係或平台整合，而不是獨立安全產品的推出。現有證據無法確定 Anthropic 是在授權模型、提供代管服務，還是協助建立專門的紅隊工作流程。

對開發者而言，重要變化在於預計使用外部 AI 系統進行安全測試。紅隊系統不必只依賴人工撰寫的測試案例，還可能產生多樣化攻擊、反覆探測應用程式，並揭露傳統品質保證流程中難以預測的弱點。來源資料尚未說明 Claude Mythos 將在 AI Defense 中提供哪些具體行為。

主張的證據與限制

目前最充分獲得確認的事實，是 Cisco 表示計畫將 Claude Mythos 加入 Cisco AI Defense，用於 AI 紅隊測試。這項主張來自 Cisco 自己的部落格，並獲 CRN 標題獨立反映。所提供的來源沒有包含基準測試結果、客戶案例、部署數據、價格，或證明整合能提升偵測率、降低安全事件的測量結果。

這項區分十分重要。除非有獨立測試支持，否則未來關於涵蓋範圍、攻擊成功率、誤判率或客戶採用情況的主張，都應視為供應商提供的資料。目前證據也沒有顯示 Claude Mythos 是否優於現有紅隊模型，或其結果與人工主導的評估相比如何。

因此，這項公告確立的是產品方向，而非經驗證的效能優勢。買方應等待相關文件，了解支援的模型、攻擊類別、報告功能、資料處理方式，以及測試流程的控制機制。

AI 紅隊測試為何逐漸成為產品要求

AI 應用程式可能以傳統應用程式安全測試無法完全涵蓋的方式失效。模型可能遵循嵌入擷取內容中的惡意指令、洩露來自非預期情境的資訊、濫用連接的工具，或在沒有違反傳統軟體規則的情況下產生不安全回應。

AI 紅隊測試旨在檢視這些模型特有的失效模式。在企業環境中，這可能包括測試提示注入、敏感資料外洩、政策繞過、不安全的工具呼叫，以及不同模型或應用程式版本之間的不一致回應。整合工作流程的價值不只是產生更多攻擊，而是將這些測試與修復、治理和發布決策連結起來。

Cisco 的做法是將這類測試放進更廣泛的 AI 安全平台，而不是把它留作與部署控制分開進行的專門工作。如果整合能如描述般交付，產品團隊就可能將紅隊測試結果與其他 AI Defense 檢查一併使用。這是否會成為有意義的營運優勢，將取決於結果品質，以及團隊將結果轉化為修復措施的難易程度。

對開發者和企業買方的影響

對 AI 開發者而言，這項公告提醒人們安全測試正轉向持續評估。紅隊工作流程應針對生產環境實際使用的提示、擷取來源、工具、權限和模型設定執行。只測試基礎模型，無法揭露應用程式周邊系統所造成的所有風險。

企業買方應詢問 Cisco AI Defense 如何隔離測試資料、是否會保留客戶提示或輸出，以及 Anthropic 的服務如何符合現有資料駐留和合規要求。他們也應詢問團隊是否能定義自己的政策和攻擊情境、檢視個別測試追蹤記錄，以及在模型或代理程式變更後重新執行測試。

這項整合也可能影響平台競爭。安全供應商正逐漸嘗試將 AI 測試納入與監控和治理相同的控制平面。可信賴的產品不能只展示大量生成的探測；它還需要可重現的結果、有用的優先排序、可管理的誤判，以及明確的修復責任歸屬。

接下來應關注的事項

下一個重要訊號將是 Cisco 公布的供應時間表，以及 Claude Mythos 在 Cisco AI Defense 中的技術文件。買方應尋找支援的 AI 框架、模型供應商、代理程式工具、測試頻率，以及該功能能否在預生產環境、生產環境或兩者中運作等細節。

獨立評估也很重要。有用的證據包括可重複測試套件的結果、與人工紅隊和其他自動化系統的比較，以及對誤判和漏掉的漏洞所作的披露。客戶案例可以釐清這項功能是否符合既有安全營運，還是會新增另一個孤立的儀表板。

最後，市場應觀察 Anthropic 和 Cisco 如何界定紅隊系統發現漏洞時的責任。清晰的報告、修復工作流程、稽核記錄，以及對敏感測試資料的控制，將與底層模型產生對抗性情境的能力同樣重要。

Creati.ai 的觀點

Cisco 的公告為企業 AI安全指出了合理方向：測試應更接近管理部署的系統，而不應停留在一次性評估。加入 Claude Mythos 可能讓 Cisco AI Defense 多一種自動化對抗性評估的方法，但公告本身並未證明它能帶來更佳涵蓋範圍或更安全的應用程式。

真正的考驗將在營運層面。開發者和買方需要證據，證明這項整合能找出可採取行動的問題、保護測試資料，並融入發布和事件回應流程。在 Cisco 公布這些細節之前，Claude Mythos 最適合被視為 AI 安全領域值得注意的產品新增項目，而不是已證實的效能突破。