模型與提供者

概述

Neotask 支援廣泛的 AI 模型提供者。您可以使用 Anthropic、OpenAI 和 Google 的雲端託管模型,透過 Ollama 或 vLLM 執行本機模型,或連接至任何與 OpenAI 相容的 API 端點。

支援的提供者

雲端提供者

提供者 模型 驗證
Anthropic Claude Opus 4.6、Claude Sonnet 4.1、Claude Haiku 4.5 API 金鑰或設定令牌
OpenAI GPT-5.2、GPT-5.1、GPT-4 Turbo、GPT-4 API 金鑰
Google (Gemini) Gemini 3 Pro、Gemini 2 Flash、Gemini 1 Pro API 金鑰或 OAuth
Together AI 各種開放權重模型(Llama、Mixtral 等) API 金鑰
Moonshot (Kimi) Moonshot v1(32K、128K 上下文) API 金鑰
OpenRouter 來自多個提供者的 100 個以上模型 API 金鑰
DeepSeek DeepSeek Chat、DeepSeek Coder API 金鑰
OpenCode Zen Claude 變體、自訂調整模型 API 金鑰

本機模型提供者

提供者 說明
Ollama 在本機執行開放權重模型(Llama、Mistral 等)
vLLM 高吞吐量本機推論伺服器
LiteLLM 支援 100 個以上提供者的統一代理

自訂提供者

透過指定基礎 URL 和 API 金鑰,連接任何與 OpenAI 相容或與 Anthropic 相容的 API。適用於自託管推論伺服器、企業代理端點和第三方模型 API。

模型設定

主要模型

為所有代理程式設定預設模型。每個代理程式可以用自己的主要模型覆蓋此設定。

備援鏈

設定優先備援模型清單。如果主要模型失敗(速率限制、停機、驗證錯誤),Neotask 自動嘗試鏈中的下一個模型。

圖像模型

用於圖像分析和生成的獨立模型設定。支援 Claude Vision、GPT-4 Vision 和 DALL-E 3。

模型別名

為長模型名稱建立捷徑。例如,將 fast 別名為 anthropic/claude-haiku-4-5 以便快速參考。

每代理程式覆蓋

每個代理程式可以有自己的模型設定,獨立於全域預設值。

模型允許清單

限制代理程式可以使用的模型。適用於成本控制或合規要求。

API 金鑰管理

金鑰來源(優先順序)

  1. 即時覆蓋金鑰(最高優先)
  2. 逗號分隔的金鑰清單(輪換)
  3. 主要金鑰
  4. 編號金鑰(key_1、key_2 等)

自動金鑰輪換

當達到速率限制時,Neotask 自動輪換至下一個可用金鑰。非速率限制故障立即返回錯誤,不進行輪換。

每提供者設定

每個提供者可以有自己的 API 金鑰組、驗證設定檔和模型特定設定。

提供者驗證方法

方法 說明
API Key 標準不記名令牌驗證
Setup Token 互動式驗證流程(Anthropic)
OAuth 使用更新令牌的委派驗證(Google、GitHub Copilot)
Token Paste 針對特殊提供者手動輸入令牌

模型選擇優先順序

當代理程式需要進行 LLM 呼叫時,模型按以下順序選擇:

  1. 每代理程式覆蓋(如果已設定)
  2. 全域預設模型
  3. 模型允許清單(如果已設定,限制選項)
  4. 第一個可用模型(備援)

提供者特定的工具限制

您可以限制特定模型或提供者可用的工具。例如,將較不受信任的模型限制為僅檔案操作,同時給予 Claude 完整工具存取權限。