Моделі та провайдери

Огляд

Neotask підтримує широкий спектр провайдерів AI-моделей. Ви можете використовувати хмарні моделі від Anthropic, OpenAI та Google, запускати локальні моделі через Ollama або vLLM, або підключатися до будь-якої сумісної з OpenAI API кінцевої точки.

Підтримувані провайдери

Хмарні провайдери

Провайдер Моделі Аутентифікація
Anthropic Claude Opus 4.6, Claude Sonnet 4.1, Claude Haiku 4.5 API-ключ або токен налаштування
OpenAI GPT-5.2, GPT-5.1, GPT-4 Turbo, GPT-4 API-ключ
Google (Gemini) Gemini 3 Pro, Gemini 2 Flash, Gemini 1 Pro API-ключ або OAuth
Together AI Різні моделі з відкритими вагами (Llama, Mixtral тощо) API-ключ
Moonshot (Kimi) Moonshot v1 (контекст 32K, 128K) API-ключ
OpenRouter 100+ моделей від різних провайдерів API-ключ
DeepSeek DeepSeek Chat, DeepSeek Coder API-ключ
OpenCode Zen Варіанти Claude, моделі з налаштованою точністю API-ключ

Провайдери локальних моделей

Провайдер Опис
Ollama Локальний запуск моделей з відкритими вагами (Llama, Mistral тощо)
vLLM Сервер локального виводу з високою пропускною здатністю
LiteLLM Єдиний проксі для 100+ провайдерів

Власні провайдери

Підключайте будь-який сумісний з OpenAI або Anthropic API, вказавши базову URL та API-ключ. Це працює з самостійно розгорнутими серверами виводу, корпоративними проксі-кінцевими точками та API моделей сторонніх розробників.

Конфігурація моделей

Основна модель

Встановіть модель за замовчуванням для всіх агентів. Кожен агент може перевизначити її своєю власною основною моделлю.

Ланцюжки резервних варіантів

Налаштуйте пріоритетний список резервних моделей. Якщо основна модель виходить з ладу (ліміт запитів, простій, помилка аутентифікації), Neotask автоматично намагається використати наступну модель у ланцюжку.

Моделі зображень

Окрема конфігурація моделі для аналізу та генерації зображень. Підтримує Claude Vision, GPT-4 Vision та DALL-E 3.

Псевдоніми моделей

Створюйте скорочення для довгих назв моделей. Наприклад, псевдонім fast для anthropic/claude-haiku-4-5 для швидкого посилання.

Перевизначення для кожного агента

Кожен агент може мати власну конфігурацію моделі, незалежну від глобального значення за замовчуванням.

Дозволені списки моделей

Обмежте, які моделі можуть використовувати агенти. Корисно для контролю витрат або відповідності вимогам.

Управління API-ключами

Джерела ключів (за пріоритетом)

  1. Ключ оперативного перевизначення (найвищий пріоритет)
  2. Список ключів, розділений комами (ротація)
  3. Первинний ключ
  4. Пронумеровані ключі (key_1, key_2 тощо)

Автоматична ротація ключів

При досягненні ліміту запитів Neotask автоматично переходить до наступного доступного ключа. Збої, не пов'язані з лімітом запитів, повертають помилки негайно без ротації.

Конфігурація для кожного провайдера

Кожен провайдер може мати власний набір API-ключів, профілів аутентифікації та налаштувань для конкретної моделі.

Методи аутентифікації провайдерів

Метод Опис
API-ключ Стандартна аутентифікація через токен-носій
Токен налаштування Інтерактивний процес аутентифікації (Anthropic)
OAuth Делегована аутентифікація з токенами оновлення (Google, GitHub Copilot)
Введення токена Ручне введення токена для спеціалізованих провайдерів

Пріоритет вибору моделі

Коли агенту потрібно зробити виклик до LLM, моделі вибираються в такому порядку:

  1. Перевизначення для конкретного агента (якщо встановлено)
  2. Глобальна модель за замовчуванням
  3. Дозволений список моделей (якщо налаштовано, обмежує варіанти)
  4. Перша доступна модель (резервний варіант)

Обмеження інструментів для конкретних провайдерів

Ви можете обмежити, які інструменти доступні для конкретних моделей або провайдерів. Наприклад, обмежте менш довірену модель лише файловими операціями, а Claude надайте повний доступ до інструментів.