大型語言模型(LLM)

1,135 個工具 · 2026年10月6日 更新

如何挑選 大型語言模型(LLM) 工具

想用聊天模型回答問題、把長報告整理成重點,或在產品中以 API 呼叫文字、影像與語音模型?這裡可比較直接提供模型的服務、線上聊天入口,以及把多家供應商集中到單一金鑰的 API 閘道,依照開發方式與治理需求挑選。

▶閱讀完整指南收合指南

聊天模型與 API 入口

先分清楚你要的是模型入口,還是模型服務層。kimik3 ai 以線上 Kimi K3 聊天整理 200 頁報告,輸出重點、風險與行動項目;Deepseek v4 AI 則標示為 6B、1M context,並用於高保真影片與視覺內容生成。若你要把模型接進程式,TokenHub、LLMFly AI、GPTProto 等提供統一 API;這類產品本身不是寫作助手或文字偵測器,重點在呼叫、路由與供應商整合。

OpenAI 相容 API 的路由差異

相容性與故障處理是實作時的分水嶺。LLMFly AI、ApiFlux、GPTProto、APIMaster、CodingPlanX AI、APIPod 與 APIMart 都以單一或統一 API 為核心,但附加能力不同:ApiFlux 提供自動故障切換與即時每 token 用量;CodingPlanX AI 以單一金鑰連接多個 LLM;APIMart 則主打多模型存取與成本節省。選擇時應確認現有 OpenAI-compatible 程式能否直接接入,以及路由規則是否符合需求。

長上下文與多模態限制

輸入與輸出型態不能只看模型名稱。TokenHub 可透過一個 OpenAI-compatible API 使用語言、影像、影片與語音模型;APIPod 提供多模態模型的統一存取;GPTProto 與 APIMart 也涵蓋文字、影像、影片模型。若需求是長文,Deepseek v4 AI 明列 1M context,kimik3 ai 的描述則以 200 頁報告摘要為例;這不等於所有模型都接受相同長度或產出相同媒體。還要向服務頁確認配額、輸入格式、輸出格式與結果匯出方式,避免把 API 存取誤當成完整內容工作台。

金鑰、計費與用量治理

成本與控管要拆開評估。LLMFly AI 可比較費率並隔離金鑰;ApiFlux 顯示每 token 用量;APIMaster 提供統一計費與成本導向路由;GPTProto 標示折扣存取。ZenMux 把企業 LLM 平台、統一 API、路由與模型風險防護放在一起,NeuralTrust 則聚焦員工 AI 流量的安全與控制。需要多人共用時,應確認金鑰分層、用量觀測、計費歸屬與風險政策,而不是只看單次呼叫價格。

開發團隊的接入路徑

個人研究者可從線上聊天開始:kimik3 ai 適合把長報告整理成重點、風險與行動項目。要接入既有開發流程,LLMFly AI 明確支援連接現有 developer workflows,其他統一 API 服務則可作為單一入口;企業團隊可比較 ZenMux 的模型風險防護與 NeuralTrust 的 AI 流量控制。請留意這些服務的描述主要涵蓋模型存取、路由、計費或治理,並未保證回答正確、內容可直接發布,或不同供應商輸出完全一致;仍需自行測試提示、回應格式與失敗處理。

全部 大型語言模型(LLM) 工具

顯示前 500 筆,共 1,135 筆
  • JJev AI
    jev-ai.pro

    將文字轉化為具備類型的是否、選擇和評分決策,並以經校準的信心度支援路由、分流和評估。

    • 是否機率決策
    • 帶有選項機率的多選分類
    • 自訂評分
    subscription · $9+前往 ↗
  • Sseedrouter
    seedrouter.ai

    SeedRouter 讓開發者透過一個 API 金鑰呼叫圖片、影片、語言和音訊模型,並按用量計費。

    • 圖片、影片、語言和音訊模型的統一 API 金鑰
    • 適用於語言模型的相容 OpenAI 端點
    • 用於圖片、影片和音訊生成的 task API
    freemium · $0.011+前往 ↗
  • TTokenHub
    tokenhub.com

    比較供應商、路由請求,並透過一個相容於 OpenAI 的 API 使用主要的語言、圖片、影片和語音模型。

    • 相容於 OpenAI 的統一 API
    • 多供應商模型市集
    • 模型能力與價格比較
  • LLLMFly AI
    llmfly.ai

    透過單一相容 OpenAI 的 API 呼叫多個領先語言模型、比較費率、隔離金鑰,並連接既有開發者工作流程。

    • 相容 OpenAI 的 API endpoint
    • 多供應商模型目錄
    • 可存取 GPT、Claude、Gemini 與 Grok
    usage-based · $0.006+前往 ↗
  • AApiFlux
    apiflux.ai

    透過單一相容 OpenAI 的 API 將請求路由到 100+ 個 AI 模型,並具備自動故障切換與即時按 token 用量可視化。

    • 單一相容 OpenAI 的 API 端點
    • 可存取來自多個供應商的 100+ 個模型
    • 自動請求故障切換
  • NNeuralTrust
    neuraltrust.ai

    沒有閘道時,每位員工都必須自行保護與控管自己的 AI 流量——否則就沒有人會做。

    • 內建安全性的開源 AI 閘道
    • 防禦提示注入與越獄攻擊
    • 供代理與工具使用的 200+ MCP 連接器目錄
  • 廣告

  • Kkimik3 ai
    kimik3.net

    使用線上 Kimi K3 聊天,將 200 頁報告摘要為關鍵發現、風險與行動項目。

    • 免費的第一則 Kimi K3 聊天訊息
    • 支援 1M token 上下文視窗的長上下文文件閱讀
    • 逐步推理支援
    依使用量計費 · $10+前往 ↗
  • GGPTProto
    gptproto.com

    一個統一的 AI API 閘道,提供對領先文字、圖片和影片模型的折扣存取。

    • 支援多個 AI 供應商的統一 API 閘道
    • 相容 OpenAI 的請求格式
    • 智慧模型路由與故障轉移
  • AAPIMaster
    apimaster.ai

    具備指紋驗證、統一計費與成本優化路由的 OpenAI 相容 API 市集,專為開發者打造。

    • OpenAI 相容的 API 存取
    • 基於 LLM 指紋的模型驗證
    • API 金鑰測試器與檢查器
  • ZZenMux
    zenmux.ai

    具有統一 API 存取、智慧路由與模型風險保護的企業級 LLM 平台。

    • 用於多模型的統一 API
    • 智慧模型路由
    • 用於降低幻覺風險的 AI 模型保險
    訂閱制與按量付費 · $20+前往 ↗
  • CCodingPlanX AI
    codingplanx.ai

    CodingPlanX 提供單一 API 金鑰閘道,可存取 600+ 的大型語言模型,降低成本並簡化整合。

    • 統一 API 存取 600+ LLM
    • OpenAI 相容端點與串流
    • 跨供應商的自動智慧路由
    付費訂閱 · $10+前往 ↗
  • DDeepseek v4 AI
    deepseekv4ai.com

    DeepSeek V4 AI:一款快速的6B模型,擁有1M上下文窗口,可用於高保真影片及視覺內容生成。

    • 1M上下文窗口以維持長篇一致性
    • 針對視覺與影片優化的6B生成模型
    • 毫秒級回應時間
  • AAPIPod
    apipod.ai

    APIPod 為開發者提供一個統一的 API,可存取 100+ 個頂級多模態 AI 模型。

    • 跨模態對 100+ AI 模型的統一 API
    • 多模態模型支援:文字、影像、影片、音訊
    • 用於成本與可靠性的智慧多通道路由
  • AAPIMart
    apimart.ai

    APIMart 提供統一介面存取超過 500 個 AI 模型(包含 GPT-5 與 Claude 4.5),並帶來成本節省。

    • 統一 API 存取 500+ AI 模型
    • 與 OpenAI 相容的整合
    • 支援聊天、圖像與影片 AI 模型
    按使用付費 · $0+前往 ↗
  • AAx
    axllm.dev

    Ax是設計用於內容生成和自動化的AI代理。

    • 內容生成
    • 工作流程自動化
    • 任務管理
  • PPronoia
    pronoia.tarjama.com

    Pronoia是一個設計用於有效本地化和翻譯解決方案的AI代理。

    • 實時翻譯
    • 上下文理解
    • 多語言支持
  • LLlama 3.3
    llama.com

    Llama 3.3 是一個先進的AI代理人,提供個性化的對話體驗。

    • 自然語言理解
    • 上下文對話生成
    • 實時回應
  • OOctofy
    octofy.ai

    Octofy 是一個自動化編碼任務並提升開發者生產力的 AI 代理。

    • 實時代碼建議
    • 自動錯誤檢測
    • 個性化編程教程
    免費增值 · 19.99+前往 ↗
  • 廣告

  • Cerebras AI Agent 利用尖端的 AI 硬體加速深度學習訓練。

    • Wafer Scale Engine
    • 高吞吐量計算訓練
    • 大型模型的可擴展性
  • OOllama
    ollama.com

    Ollama 通過命令行介面提供與 AI 模型的無縫互動。

    • AI 模型的命令行介面
    • 支持自定義模型集成
    • 可用的預構建 AI 模型
  • QQwak
    qwak.com

    Qwak 自動化數據準備和模型創建以實現機器學習。

    • 數據準備
    • 模型創建
    • 自動化部署
    收費 · $150+前往 ↗
  • CCohere
    cohere.com

    Cohere 提供強大的 NLP 工具,用於生成和理解文本。

    • 文本生成
    • 語義搜索
    • 文檔分析
    按用量付費 · $0.0375+前往 ↗
  • GGraphSignal
    graphsignal.com

    GraphSignal 是一個由 AI 驅動的即時圖形向量搜尋引擎,用於語義搜尋與知識圖洞察。

    • 即時向量相似性搜尋
    • 整合的知識圖管理
    • 內建嵌入模型支援
    免費試用 · $250+前往 ↗
  • CCrosby Health
    crosbyhealth.com

    Crosby Health 是一個以人工智能驅動的心理健康助手。

    • 個性化心理健康建議
    • 定期情緒追蹤
    • 訪問心理健康資源
  • CChipper
    chipper.tilmangriesel.com

    一個基於 React 的開源聊天 UI 框架,支持實時大語言模型(LLM)整合,可自訂主題、串流回應及多代理支援。

    • 可自訂的 React 聊天 UI 元件
    • 即時串流 AI 回應
    • 多代理對話支援
  • LLiteLLM
    docs.litellm.ai

    LiteLLM是一個無縫的自然語言互動的AI代理。

    • 自然語言處理
    • 任務自動化
    • 對話管理
  • LLangChain
    deeplearning.ai

    LangChain是一個開源框架,用於構建具有模塊化鏈、代理、記憶體和向量庫整合的LLM應用。

    • 提示模板
    • LLM包裝器
    • 鏈
  • LLlamaCloud
    docs.cloud.llamaindex.ai

    LlamaCloud是一個為雲端資料管理和分析設計的人工智慧代理。

    • 資料處理
    • 預測分析
    • 實時見解
  • LLLMWare
    llmware-ai.github.io

    LLMWare 是一個 Python 工具包,使開發者能夠構建具有模塊化結構的大型語言模型(LLM)AI代理,具備鏈條協調和工具集成功能。

    • 鏈條協調
    • 記憶管理
    • 工具整合
  • LLlamator
    llamator-core.github.io

    Llamator是一個開源的JavaScript框架,可建立具有記憶、工具與動態提示的模組化自主AI代理。

    • 模組化的代理流程(規劃、行動、反思)
    • 用於保持上下文的記憶管理
    • 自定義工具整合,用於API呼叫
  • 廣告

  • SwiftSage是一款由人工智能驅動的程式碼助手,可根據自然語言提示產生可用於正式環境的SwiftUI組件。

    • 從自然語言生成SwiftUI程式碼
    • 提供UI元件的即時預覽
    • 自定義樣式及佈局選項
  • SSeed-Coder-8B-Base
    seedcoder.org

    Seed-Coder-8B-Base 透過智能協助和即時除錯提升編碼效率。

    • 程式碼建議
    • 即時除錯
    • 自然語言處理
  • Llangchainrb
    rubydoc.info

    一個用於建立人工智慧代理、串聯大型語言模型(LLM)調用、管理提示詞以及與OpenAI模型整合的Ruby Gem。

    • 提示模板管理
    • LLM串聯執行
    • 代理創建與調度
  • MModel ML
    modelml.com

    Model ML 提供先進的自動化機器學習工具給開發者。

    • 自動數據預處理
    • 模型訓練和評估
    • 超參數調整
  • GGoLC
    hupe1980.github.io

    GoLC 是一個基於 Go 的 LLM 連鎖框架,實現提示模板、檢索、記憶和工具型代理流程。

    • 模組化鏈條思考管理
    • 可定制提示模板
    • 具有工具整合的代理框架
  • JJulep AI Responses
    docs.julep.ai

    Julep AI Responses 是一個 Node.js SDK,讓您建構、配置和部署具有工作流程的客製化對話式AI代理。

    • Node.js Agent SDK
    • 訊息觤發器處理器
    • 會話記憶管理
  • SSidekick
    johnbean393.github.io

    Sidekick 是一款 Chrome 擴充功能,提供 AI 驅動的程式碼建議、文件查詢和問答支援,直連瀏覽器。

    • 上下文式 AI 程式碼補全
    • 文件查詢與摘要
    • 互動式問答聊天小工具
  • LLangDB AI
    langdb.ai

    LangDB AI 讓團隊能建立 AI 驅動的知識庫,包含文件引入、語義搜尋和對話式問答。

    • 文件引入(PDF、Word、網頁)
    • 語義搜尋引擎
    • 對話式問答聊天機器人
    免費增值 · $49+前往 ↗
  • LLila
    lila.dev

    Lila是一個開源的AI代理框架,協調LLM、管理記憶、整合工具並定制工作流程。

    • 動態LLM協調與提示
    • 內建記憶管理
    • 自訂工具和API整合
    免費 · $0+前往 ↗
  • MModelBench AI
    modelbench.ai

    ModelBench AI 簡化了各種平台上的模型部署和管理。

    • 模型部署
    • 性能監控
    • 多平台支持
    免費試用 · $49+前往 ↗
  • LLM Studio
    lmstudio.ai

    LM Studio是一個設計用於無縫內容創建和自動化的AI代理。

    • 內容生成
    • 文件處理
    • 工作流程自動化
  • OOrkes
    orkes.io

    Orkes提供AI工具,以實現高效的應用程序開發和微服務管理。

    • 微服務管理
    • 開發的AI工具
    • 實時監控
    免費增值 · $825+前往 ↗
  • 廣告

  • Tteleprompt
    chromewebstore.google.com

    立即優化提示並改善AI聊天機器人交互,使用Teleprompt。

    • 即時提示優化
    • 實時提示質量反饋
    • AI模型特定的優化
  • LLumino AI
    luminolabs.ai

    使用Lumino的SDK將您的機器學習訓練成本降低多達80%。

    • 易於使用的SDK
    • 預配置的模板
    • 自定義模型支持
  • PPagePilot AI
    chromewebstore.google.com

    使用PagePilot AI將任何網頁轉變為您的智能工作空間。

    • 選擇和右鍵菜單功能
    • 通過ChatGPT和Google Gemini的AI洞察
    • 摘要、翻譯和解釋內容
  • AAI Chat Sync
    chromewebstore.google.com

    一個快速打開多個AI聊天網站並同步聊天的瀏覽器插件。

    • 一次點擊打開多個AI聊天網站。
    • 向所有AI網站發送問題的同步聊天功能。
    • 支持添加新的AI聊天網站。
  • SSourcekit
    chromewebstore.google.com

    SourceKit透過AI過濾在線雜音,幫助您節省時間。

    • 先進的AI模型
    • 實時過濾
    • 用戶活動追踪
  • HHeartbeat
    getheartbeat.app

    以AI驅動的健康電話專為老年人,確保他們的心理和身體健康。

    • 安排健康電話
    • 可自定義的通話腳本
    • AI驅動的真實人聲
  • AAPIPark
    apipark.com

    APIPark是一個開源的LLM網關,能夠高效、安全地整合AI模型。

    • 細粒度視覺管理
    • 負載均衡
    • 實時流量監控
廣告