Модели — AiHummer Документация

Экран «Модели» задаёт, какими языковыми моделями пользуются агенты. Основа — это цепочка провайдеров с приоритетом: AiHummer идёт по списку сверху вниз, пока не получит рабочий ответ, поэтому можно поставить основной провайдер первым, а резервные — ниже.

[!NOTE] Реальный провайдер не обязателен: до подключения ответы приходят из детерминированной тестовой модели (mock) — этого хватает, чтобы проверить каналы, маршрутизацию и агентов без затрат. Подключайте модель, когда захотите рабочих ответов.

Чтобы не путаться в терминах: провайдер — сервис, который отдаёт модель (OpenAI, Anthropic, локальный сервер); модель — конкретная модель этого провайдера; транспорт подписки (codex) — доступ к моделям через подписку ChatGPT без API-ключа; локальная модель — сервер модели на вашем железе (Ollama, LM Studio, vLLM); тестовая модель (mock) — встроенная заглушка, работающая без какого-либо провайдера.

Подключите первого провайдера за 4 шага

Откройте экран «Модели» и нажмите кнопку добавления провайдера — откроется модальное окно (то же используется в мастере настройки).
Выберите провайдера из брендового списка (сменить его после создания нельзя). Российские провайдеры идут первыми, затем Codex, затем зарубежные:
- Российские: YandexGPT (Yandex Cloud), GigaChat (Сбер), Cloud.ru (Evolution), MTS AI (Cotype). Пресет сам подставляет нужный адрес — остаётся вписать ключ и выбрать модель.
- codex — модели через подписку ChatGPT без отдельного API-ключа (см. ниже).
- Зарубежные: OpenAI, Anthropic (Claude), Google Gemini, DeepSeek, xAI (Grok), Mistral, Groq и другие — а также openai-compatible для любого сервиса с OpenAI-совместимым API и локальных серверов (Ollama, LM Studio, vLLM).
Большинство пресетов работают через OpenAI-совместимый endpoint (адрес подставляется автоматически); у YandexGPT и GigaChat — собственная встроенная авторизация, отдельный base_url указывать не нужно.
Заполните поля: Имя (произвольное, для себя), Базовый URL (для пресета подставляется автоматически) и API-ключ. Нажмите «Проверить подключение» (Test) — AiHummer проверит связь. Проверка подтверждает доступность провайдера и авторизацию; качество и совместимость инструментов проверяйте в тестовой сессии.
Выберите модель: сначала можно ввести название вручную (есть подсказки), а после успешной проверки подключения список моделей подтягивается из /models провайдера. Поставьте галочку «включён» и сохраните.

Что вы увидите: новый провайдер появится карточкой с номером приоритета, типом, моделью, меткой «ключ задан» и статусом «включён». Теперь агенты отвечают через него, а не через тестовую модель.

Куда вписывать что: примеры провайдеров

Выберите провайдера из списка — пресет подставит адрес; вам остаётся вписать ключ (где взять — в документации провайдера) и выбрать модель. Ниже — ориентир (российские провайдеры вверху).

Провайдер	Что указать
YandexGPT (Yandex Cloud)	ключ Yandex Cloud + модель YandexGPT (встроенная авторизация)
GigaChat (Сбер)	ключ GigaChat + модель GigaChat (встроенная авторизация)
Cloud.ru (Evolution)	ключ Cloud.ru + модель
MTS AI (Cotype)	ключ MTS AI + модель Cotype
Codex (подписка ChatGPT)	без ключа — авторизация по устройству (см. ниже)
OpenAI	ключ OpenAI + модель (например, семейства GPT)
Anthropic	ключ Anthropic + модель Claude
Google Gemini	ключ Google + модель Gemini
DeepSeek	ключ DeepSeek + модель DeepSeek
xAI (Grok), Mistral, Groq и др.	ключ провайдера + его модель
OpenAI-совместимый / локальный сервер	base_url вашего сервиса (Ollama/LM Studio/vLLM), ключ по необходимости

Cколько провайдеров и как работает резерв

Цепочка провайдеров пробуется по порядку: если верхний провайдер недоступен или вернул ошибку, AiHummer переходит к следующему. Поэтому:

поставьте основной провайдер первым (стрелки ↑/↓ меняют порядок);
добавьте резервный ниже — на случай сбоя или лимитов у основного;
можно комбинировать облачного провайдера и локальный как запасной.

Codex (подписка ChatGPT)

Тип codex прячет base_url и ключ и показывает панель подключения по device-auth: Connect / Disconnect / Refresh. Это способ использовать модели через подписку ChatGPT без отдельного API-ключа:

Добавьте провайдера с типом codex.
Нажмите Connect и пройдите авторизацию устройства по инструкции на экране.
Готово — провайдер работает через вашу подписку; Refresh обновляет доступ, Disconnect отключает.

BYOK и настройки LLM

BYOK (bring your own key) — переопределение на уровне рабочего пространства: провайдер, модель, api_key, base_url; кнопки «Сохранить» и «Очистить». Подробнее — BYOK-провайдеры.
Настройки LLM — часть каталога настроек, закреплённая за этим экраном (температура, тайм-ауты и т. п.).

Как ограничить, что видят агенты

По умолчанию агент может использовать модель по умолчанию из цепочки. Чтобы ограничить список моделей, доступных агентам, задайте его на Инструкции → доступные модели.

Если не получилось

Проверка подключения не проходит — проверьте, что Базовый URL указывает на OpenAI-совместимый endpoint провайдера (а не на страницу входа), а API-ключ скопирован полностью и активен. Разные провайдеры используют разные адреса — сверьтесь с их документацией.
Список моделей пуст — модели подтягиваются из /models только после успешной проверки подключения; до этого введите название модели вручную.
Агент по-прежнему отвечает как тестовая модель — убедитесь, что провайдер включён (галочка) и стоит выше отключённых в цепочке.
Ошибки лимитов/квоты — добавьте резервного провайдера ниже по приоритету, чтобы запросы переключались на него при исчерпании лимита у основного.
Тип выбран неверно — тип нельзя изменить после создания; удалите провайдера и создайте заново с нужным типом.

Что дальше

Маршрутизация — как выбирается модель и агент.
BYOK-провайдеры — ключи по пространствам.
Агенты — задать агенту отдельную модель.