- Step1: 建立 LLMFly AI 帳號,並為應用程式或環境產生 API key。
- Step2: 檢視模型目錄,並比較能力、上下文限制,以及輸入、輸出與快取費率。
- Step3: 透過更改 base URL,將您的伺服器端 OpenAI client 指向 LLMFly AI endpoint。
- Step4: 加入 LLMFly AI API key,並貼上所選的目錄 model ID。
- Step5: 送出一個簡短的非串流測試請求,接著為 production 設定工作負載。
- Step6: 檢視使用歷史,並在需要時撤銷個別金鑰。