Mô hình & Nhà cung cấp
Tổng quan
Neotask hỗ trợ nhiều nhà cung cấp mô hình AI. Bạn có thể sử dụng các mô hình được lưu trữ trên đám mây từ Anthropic, OpenAI và Google, chạy các mô hình cục bộ qua Ollama hoặc vLLM, hoặc kết nối với bất kỳ endpoint API tương thích OpenAI nào.
Các nhà cung cấp được hỗ trợ
Nhà cung cấp đám mây
| Nhà cung cấp | Mô hình | Xác thực |
|---|---|---|
| Anthropic | Claude Opus 4.6, Claude Sonnet 4.1, Claude Haiku 4.5 | API key hoặc setup-token |
| OpenAI | GPT-5.2, GPT-5.1, GPT-4 Turbo, GPT-4 | API key |
| Google (Gemini) | Gemini 3 Pro, Gemini 2 Flash, Gemini 1 Pro | API key hoặc OAuth |
| Together AI | Nhiều mô hình trọng số mở (Llama, Mixtral, v.v.) | API key |
| Moonshot (Kimi) | Moonshot v1 (32K, 128K context) | API key |
| OpenRouter | 100+ mô hình từ nhiều nhà cung cấp | API key |
| DeepSeek | DeepSeek Chat, DeepSeek Coder | API key |
| OpenCode Zen | Biến thể Claude, mô hình được tinh chỉnh tùy chỉnh | API key |
Nhà cung cấp mô hình cục bộ
| Nhà cung cấp | Mô tả |
|---|---|
| Ollama | Chạy các mô hình trọng số mở cục bộ (Llama, Mistral, v.v.) |
| vLLM | Máy chủ suy luận cục bộ thông lượng cao |
| LiteLLM | Proxy thống nhất cho 100+ nhà cung cấp |
Nhà cung cấp tùy chỉnh
Kết nối bất kỳ API tương thích OpenAI hoặc Anthropic nào bằng cách chỉ định URL cơ sở và API key. Điều này hoạt động với các máy chủ suy luận tự lưu trữ, các endpoint proxy doanh nghiệp và API mô hình của bên thứ ba.
Cấu hình mô hình
Mô hình chính
Đặt mô hình mặc định cho tất cả các tác nhân. Mỗi tác nhân có thể ghi đè điều này bằng mô hình chính riêng của nó.
Chuỗi dự phòng
Cấu hình danh sách ưu tiên các mô hình dự phòng. Nếu mô hình chính thất bại (giới hạn tốc độ, ngừng hoạt động, lỗi xác thực), Neotask tự động thử mô hình tiếp theo trong chuỗi.
Mô hình hình ảnh
Cấu hình mô hình riêng biệt để phân tích và tạo hình ảnh. Hỗ trợ Claude Vision, GPT-4 Vision và DALL-E 3.
Bí danh mô hình
Tạo phím tắt cho tên mô hình dài. Ví dụ: đặt bí danh fast cho anthropic/claude-haiku-4-5 để tham chiếu nhanh.
Ghi đè theo từng tác nhân
Mỗi tác nhân có thể có cấu hình mô hình riêng, độc lập với mặc định toàn cục.
Danh sách cho phép mô hình
Giới hạn mô hình nào mà tác nhân có thể sử dụng. Hữu ích để kiểm soát chi phí hoặc tuân thủ.
Quản lý API key
Nguồn key (Thứ tự ưu tiên)
- Key ghi đè trực tiếp (ưu tiên cao nhất)
- Danh sách key được phân cách bằng dấu phẩy (xoay vòng)
- Key chính
- Các key được đánh số (key_1, key_2, v.v.)
Xoay vòng key tự động
Khi đạt giới hạn tốc độ, Neotask tự động xoay sang key tiếp theo có sẵn. Các lỗi không phải giới hạn tốc độ trả về lỗi ngay lập tức mà không xoay vòng.
Cấu hình theo từng nhà cung cấp
Mỗi nhà cung cấp có thể có bộ API key, hồ sơ xác thực và cài đặt dành riêng cho mô hình riêng.
Phương thức xác thực nhà cung cấp
| Phương thức | Mô tả |
|---|---|
| API Key | Xác thực token bearer tiêu chuẩn |
| Setup Token | Luồng xác thực tương tác (Anthropic) |
| OAuth | Xác thực ủy quyền với token làm mới (Google, GitHub Copilot) |
| Dán token | Nhập token thủ công cho các nhà cung cấp chuyên biệt |
Ưu tiên chọn mô hình
Khi tác nhân cần thực hiện cuộc gọi LLM, các mô hình được chọn theo thứ tự này:
- Ghi đè theo từng tác nhân (nếu được đặt)
- Mô hình mặc định toàn cục
- Danh sách cho phép mô hình (nếu được cấu hình, giới hạn tùy chọn)
- Mô hình đầu tiên có sẵn (dự phòng)
Hạn chế công cụ dành riêng cho nhà cung cấp
Bạn có thể hạn chế công cụ nào có sẵn cho các mô hình hoặc nhà cung cấp cụ thể. Ví dụ: giới hạn một mô hình kém tin cậy hơn chỉ thực hiện các thao tác tệp, trong khi cho phép Claude truy cập công cụ đầy đủ.