AI News

Microsoft 的 Bing 團隊開源 Harrier 嵌入模型

Microsoft 的 Bing 團隊釋出了 Harrier,一款開源的多語言嵌入模型,一經推出便在 Multilingual MTEB v2 基準測試中取得領先地位。藉由支援超過 100 種語言與 32,000 個 token 的上下文視窗,Harrier 被定位為可投入生產環境、可替代專有文字嵌入服務的選項,延續 Microsoft 將先進 AI 能力推向開源生態系的整體策略。

此次發佈凸顯出:企業級嵌入模型正迅速成為跨語言搜尋、檢索增強生成(Retrieval-Augmented Generation,RAG)、推薦系統與語意理解等場景中的關鍵基礎設施。

Harrier 是什麼,以及為何重要

Harrier 被設計為通用文字嵌入模型,並針對以下場景進行最佳化:

  • 多語言語意搜尋
  • 檢索增強生成(RAG)管線
  • 文件分群與分類
  • 相似度搜尋與推薦

不同於許多偏研究導向的模型,Harrier 在 Bing 的生產級搜尋技術堆疊中完成開發與強化,之後才對外釋出。這樣的來源背景是 Microsoft 定位的核心:此模型不只是在基準測試上表現亮眼,更是支撐大規模消費者與企業搜尋情境的同一項技術。

關鍵特性包含:

  • 以寬鬆授權條款提供的開源可用性
  • 支援 100+ 種語言,並針對真實世界文字來源進行調校
  • 32K token 上下文視窗,可處理長文件嵌入
  • 向量資料庫與大規模檢索工作負載進行最佳化

對於正在打造 AI 驅動產品的實務開發者而言,Harrier 的開源釋出代表了一個轉向:從封閉、付費服務的嵌入方案,走向可用於關鍵任務場景的高品質、自主託管選項

在 Multilingual MTEB v2 上的基準表現

Microsoft 特別強調 Harrier 在 Multilingual MTEB v2 上的表現。這是一套被廣泛採用的基準測試套件,用於評估多語言嵌入模型在搜尋、分群、分類與其他語意任務上的能力。

雖然不同任務的精確排名表格各有差異,Bing 團隊的報告指出:

  • Harrier 在關鍵的多語言檢索任務中,達到**最佳或接近最佳(state-of-the-art)**的表現。
  • 在跨語言語意相似度與檢索方面,它超越多數既有的開源替代方案
  • 在多語與混合語料上評測時,它與多個封閉式嵌入 API具備競爭力,甚至在部分情境中表現更佳。

Harrier 與其他嵌入模型的比較

以下比較突顯 Harrier 相較於生態系中常見嵌入模型的定位:

Model|License|Languages|Max Context Window|Typical Use Cases
---|---|---|---
Harrier (Bing)|Open-source|100+|32,000 tokens|Multilingual search, enterprise RAG, document understanding
OpenAI text-embedding models|Proprietary API|Dozens (varies by model)|Large but API-bound|General-purpose retrieval, semantic search, recommendations
LAION / BAAI multilingual models|Open-source|Broad multilingual|Varies; often <8,192 tokens|Research, multilingual retrieval, experimentation
Cohere / other commercial APIs|Proprietary|Many languages|API-defined|Search and recommendation as-a-service

Harrier 結合了廣泛語言支援與長上下文兩大優勢,對於以下類型的組織特別關鍵:

  • 法規與監管檔案資料庫
  • 技術文件與操作手冊
  • 多語客戶支援內容
  • 涵蓋多個地區的新聞、學術與政府文件

架構與技術重點

Microsoft 並未將整個 Bing 搜尋管線開源,但 Harrier 的釋出與配套文件,仍提供了若干對實作很重要的技術訊號:

多語訓練與領域魯棒性

根據 Microsoft Bing 團隊的說明:

  • Harrier 以多元的多語語料庫進行訓練,更貼近公開網路上雜訊多、領域混雜的文字特性。
  • 訓練資料涵蓋超過 100 種語言,不僅包含英文、西班牙文、中文等高資源語言,也覆蓋許多在商業模型中往往被忽略的中低資源語言
  • 該模型針對非正式文字的魯棒性進行最佳化,包括語碼轉換(code-switching)與常見的拼字變體,這些現象經常出現在搜尋紀錄與使用者產生內容中。

這樣的聚焦,使 Harrier 特別適合用於面向消費者的搜尋與內容探索體驗,並服務地理分布廣泛的使用者族群。

32K Token 的長上下文視窗

相較於許多僅支援 2K–8K token 的既有嵌入模型,**32,000-token 上下文視窗**格外突出。

這個擴大的視窗能夠實現:

  • 以較少的分段,就能編碼完整文件、合約、研究論文與多章節報告
  • 在 RAG 管線中獲得更連貫的分段語意,減少碎片化並提升召回品質
  • 更佳地支援階層式文件檢索,同時嵌入較高層級章節、摘要與細節內容

對企業而言,這可以降低文件切分上的工程負擔,並打造更簡潔、易維護的檢索管線

在真實世界 AI 系統中的整合

從 Creati.ai 的視角來看,Harrier 的釋出對以下團隊特別相關:

  • 在 App 與網站中構建搜尋與探索體驗
  • 搭建以內部或外部知識為基礎的 RAG 系統
  • 建立面向內容、商品或學習資源的多語推薦系統
  • 維運需跨地區與語言運作的知識庫

典型部署模式

將 Harrier 整合進生產環境的一個標準技術堆疊,大致如下:

  1. 資料導入(Ingestion)

    • 從網頁、PDF、內部 Wiki、CRM 系統或工單平台收集文件。
    • 正規化並將內容切分為具語意意義的分段,同時考量 32K 視窗限制。
  2. 嵌入(Embedding)

    • 使用 Harrier 將每個文件或分段嵌入為定長向量。
    • 將向量儲存在 向量資料庫 中,例如 Azure AI Search、具 pgvector 的 PostgreSQL,或專用向量資料庫。
  3. 檢索(Retrieval)

    • 查詢時,以 Harrier 將使用者查詢轉換為向量。
    • 對儲存的嵌入進行 k-nearest neighbor 搜尋,以找出最相關的文件。
  4. 生成(可選)

    • 在 RAG 工作流程中,將已檢索到的文件餵給 LLM(例如 GPT 系列模型或開源 LLM),以生成有根據的答案
  5. 監控與優化

    • 追蹤相關性指標、延遲與語言覆蓋率。
    • 持續迭代分段策略、索引參數與模型設定。

有助企業採用的優勢

透過開源且已在生產環境驗證的特性,Harrier 回應了企業在導入嵌入模型時的多項常見顧慮:

  • 資料控管:組織可在自有基礎設施中部署模型,避免將敏感內容送往第三方 API。
  • 成本可預測性:在高規模情境下,自主託管嵌入服務,往往比依賴按 token 計價的 API 更具成本優勢。
  • 客製化途徑:雖然 Harrier 基礎模型偏通用,但可作為針對專有資料進行領域微調的起點。

Microsoft 在開源 AI 生態系中的策略定位

Harrier 的問世,與 Microsoft 整合開源與專有 AI 的整體策略一脈相承:

  • 一方面,Azure OpenAI Service 與商業 API 提供對大型模型與託管端點的全託管存取。
  • 另一方面,Microsoft 日益強化對可在本地、Azure 或混合環境執行的開源模型與工具的支援。

藉由釋出一款達到 Bing 等級的嵌入模型,Microsoft 實際上在:

  • 強化其相對於其他僅提供封閉嵌入服務供應商的競爭地位
  • 鼓勵開發者採用由 Microsoft 支援的 向量搜尋、索引與協調編排工具鏈
  • 鞏固一個觀念:在大型供應商加持下,開源模型亦能符合企業級標準

對開發與研究社群來說,這同時建立了一個新的基準點:未來的多語嵌入模型——無論開源或專有——都將在 Harrier 的 MTEB v2 表現與實務可用性之上進行比較。

對開發者與 AI 建構者的影響

從像 Creati.ai 這類 AI 專注平台的觀點來看,Harrier 帶來數個具體影響:

  • 更豐富的多語體驗:開發者可設計在 100+ 語言中都具備在地感與相關性的 AI 系統,而無需同時維運多個專用模型。
  • 簡化架構:單一長上下文嵌入模型,降低為長文件與多語文字分別建立多套管線的複雜度。
  • 更高品質的 RAG:更優質的多語嵌入,可直接轉化為更扎實的依據、更少幻覺與更精準的回答。
  • 加速實驗週期:開源存取讓團隊能在不鎖定特定 API 供應商的前提下,快速原型製作與基準測試。

同時,組織仍需妥善處理:

  • 營運面議題,例如 GPU 資源配置、延遲最佳化與模型更新
  • 治理與合規,尤其是在使用來自敏感或受監管資料的嵌入時
  • 大規模評估,確保在 MTEB v2 上的指標,能與實際業務指標(如用戶滿意度與轉換率)產生正相關

展望未來

Microsoft 將 Harrier 開源,標誌著高品質、多語、開放嵌入模型加速發展的趨勢。隨著生態系持續成熟,Creati.ai 預期將看到:

  • 更多針對法律、醫療、金融等領域的 任務專用(task-specialized)Harrier 系列變體
  • 開源嵌入模型與 LLM 協調編排框架更深度整合,促成可即插即用的 RAG 架構
  • 專有嵌入 API 承受持續壓力,被迫在超越模型品質之外的層面尋求差異化,例如工具鏈、合規性與託管服務能力

就目前而言,Harrier 為開發者、企業與 AI 平台提供了一個全新且可信的多語嵌入預設選項——兼具領先基準表現與開源軟體所帶來的透明度與靈活性。

隨著採用度的提升,此模型有望重塑全球規模語意搜尋與知識密集型 AI 系統的期待門檻,尤其是對那些願意投資於自託管、可投入生產環境 AI 基礎設施的組織而言。

精選

Microsoft Bing 團隊將 Harrier 嵌入模型開源,登上 Multilingual MTEB v2 基準榜首

Microsoft 的 Bing 團隊推出 Harrier,這是一個支援 100 多種語言、並擁有 32,000 token 上下文視窗的開源多語言嵌入模型。