Models & Providers
Overview
Neotask AI model providers की एक wide range support करता है। आप Anthropic, OpenAI, और Google से cloud-hosted models उपयोग कर सकते हैं, Ollama या vLLM के माध्यम से local models run कर सकते हैं, या किसी भी OpenAI-compatible API endpoint से connect कर सकते हैं।
समर्थित Providers
Cloud Providers
| Provider | Models | Auth |
|---|---|---|
| Anthropic | Claude Opus 4.6, Claude Sonnet 4.1, Claude Haiku 4.5 | API key या setup-token |
| OpenAI | GPT-5.2, GPT-5.1, GPT-4 Turbo, GPT-4 | API key |
| Google (Gemini) | Gemini 3 Pro, Gemini 2 Flash, Gemini 1 Pro | API key या OAuth |
| Together AI | Various open-weight models (Llama, Mixtral, आदि) | API key |
| Moonshot (Kimi) | Moonshot v1 (32K, 128K context) | API key |
| OpenRouter | Multiple providers से 100+ models | API key |
| DeepSeek | DeepSeek Chat, DeepSeek Coder | API key |
| OpenCode Zen | Claude variants, custom-tuned models | API key |
Local Model Providers
| Provider | विवरण |
|---|---|
| Ollama | Locally open-weight models run करें (Llama, Mistral, आदि) |
| vLLM | High-throughput local inference server |
| LiteLLM | 100+ providers के लिए Unified proxy |
Custom Providers
किसी भी OpenAI-compatible या Anthropic-compatible API को base URL और API key specify करके connect करें। यह self-hosted inference servers, enterprise proxy endpoints, और third-party model APIs के साथ काम करता है।
Model Configuration
Primary Model
सभी agents के लिए एक default model set करें। प्रत्येक agent अपने own primary model के साथ इसे override कर सकता है।
Fallback Chains
Fallback models की एक prioritized list configure करें। यदि primary model fail होता है (rate limit, downtime, auth error), तो Neotask automatically chain में अगला model try करता है।
Image Models
Image analysis और generation के लिए Separate model configuration। Claude Vision, GPT-4 Vision, और DALL-E 3 support करता है।
Model Aliases
Long model names के लिए shortcuts बनाएं। उदाहरण के लिए, quick reference के लिए fast को anthropic/claude-haiku-4-5 पर alias करें।
Per-Agent Overrides
प्रत्येक agent का अपना model configuration हो सकता है, global default से independent।
Model Allowlists
Restrict करें कि agents कौन से models उपयोग कर सकते हैं। Cost control या compliance के लिए useful।
API Key Management
Key Sources (Priority Order)
- Live override key (highest priority)
- Comma-separated key list (rotation)
- Primary key
- Numbered keys (key_1, key_2, आदि)
Automatic Key Rotation
Rate limit hit होने पर, Neotask automatically अगली available key पर rotate करता है। Non-rate-limit failures बिना rotation के immediately errors return करते हैं।
Per-Provider Configuration
प्रत्येक provider के अपने API keys, auth profiles, और model-specific settings हो सकते हैं।
Provider Auth Methods
| Method | विवरण |
|---|---|
| API Key | Standard bearer token authentication |
| Setup Token | Interactive auth flow (Anthropic) |
| OAuth | Refresh tokens के साथ Delegated auth (Google, GitHub Copilot) |
| Token Paste | Specialized providers के लिए Manual token entry |
Model Selection Priority
जब एक agent को LLM call करने की आवश्यकता होती है, तो models इस order में select होते हैं:
- Per-agent override (यदि set है)
- Global default model
- Model allowlist (यदि configured है, options limit करता है)
- पहला available model (fallback)
Provider-Specific Tool Restrictions
आप restrict कर सकते हैं कि specific models या providers के लिए कौन से tools available हैं। उदाहरण के लिए, एक less-trusted model को केवल file operations तक limit करें, जबकि Claude को full tool access दें।