AiHummer
Беларуская▾
УвайсціАсабісты кабінет
v1.1.x▾
v1.2.xstablev1.1.xstablev1.0.xstable
{ }Swagger
Доступ і інтэграцыі/Пастаўшчыкі BYOK і LLM

Пастаўшчыкі BYOK і LLM

v1.1.x · абноўлена 2026-07-05

AiHummer ніколі не патрабуе платнай мадэлі. Адразу пасля ўстаноўкі ён працуе на бясплатных і лакальных мадэлях і праз падпіску на Codex/ChatGPT, а калі мадэль зусім не падключана, выкананне вяртаецца да дэтэрмінаванай макетнай мадэлі, таму платформа ўсё роўна запускаецца і можа быць пратэставана. Калі вам патрэбна канкрэтная мадэль, вы забяспечваеце яе самі — альбо ў якасці агульнадзейнай канфігурацыі, альбо для кожнага арандатара асобна. БЯК (прыносьце ўласны ключ)

Падтрыманыя пастаўшчыкі ВММ

AiHummer неабмежавана размаўляе з любым пастаўшчыком, які прапануе API чата ў стылі OpenAI, злучаецца з іншымі пастаўшчыкамі праз знешні шлюз LLM і падтрымлівае транспарт падпіскі ChatGPT. На практыцы гэта ахоплівае:

Пастаўшчык Як гэта звязана Нататкі
OpenAI Радзімер сумяшчальны з OpenAI (AIHUMMER_OPENAI_*)
Любая кропка доступу стандарту OpenAI-API Тая ж родная сцежка: AIHUMMER_OPENAI_BASE_URL Мясцовыя мадэлі, OpenRouter, API Gemini, сумяшчальны з OpenAI і інш.
Антрапічны Вэб-інтэрфейс Антрапічны прадустаноўка (сумяшчальная з OpenAI) або праз шлюз LLM (AIHUMMER_LLM_*) Мадэлі Клода; падключайце іх праз выбар пастаўшчыка з брэндам або дазвольце шлюзу сайдкара ўтрымліваць ключ
Codex / транспарт падпіскі ChatGPT Транспарт на аснове падпіскі (AIHUMMER_CODEX_*) Выкарыстоўвае падпіску ChatGPT замест ключа API з аплатай па выкарыстанні

[!WARNING] Ніякі платны API мадэлі ніколі не з’яўляецца абавязковым. AiHummer працуе з бясплатнымі/лакальнымі мадэлямі і транспарт Codex/ChatGPT-падпіскі, і калі мадэль не наладжана час выканання выкарыстоўвае дэтэрмінаваны макет — шлюз усё яшчэ запускаецца і рэагуе. BYOK і платныя ключы з’яўляюцца цалкам неабавязковымі.

Падключэнне мадэлі з наладамі

Ключы LLM гэта каталог-настроек кнопкі (захаваны ў базе дадзеных): усталюйце іх у адміністрацыйным інтэрфейсе (Кіраванне → Налады) або з дапамогай aihummer settings set, не ў gateway.envЁсць дзве незалежныя правадныя дарогі — не змяшайце іх зменныя.

(а) Родны сумяшчальны з OpenAI шлях. Шлюз сам выклікае сумяшчальны з OpenAI канчатковы пункт і перадае ключ:

aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini

Той жа шлях працуе для лакальнага сервера, сумяшчальнага з OpenAI, OpenRouter або канцавага пункта Gemini, сумяшчальнага з OpenAI — проста ўкажыце AIHUMMER_OPENAI_BASE_URL з гэтым.

(б) Маршрут LLM-шлюза. AIHUMMER_LLM_GATEWAY_URL з’яўляецца базавым URL сумяшчальнага з OpenAI канчатковага пункта — гэта тая ж наладка, што паказана ў КанфігурацыяНакіруйце яго на сайдкар шлюза, які утрымлівае сам ключы правайдэра (ні адзін API-ключ не праходзіць праз AiHummer), або непасрэдна праз API, сумяшчальны з OpenAI ў пастаўшчыка (у гэтым выпадку вы таксама прадстаўляеце ключ гэтага пастаўшчыка). Гэта адрозніваецца ад роднага AIHUMMER_OPENAI_BASE_URL у шляху (а):

aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5

[!WARNING] Шляхи не злучаюцца: спалучэнне AIHUMMER_LLM_GATEWAY_URL з AIHUMMER_OPENAI_API_KEY нічога не робіць — ні адна клавіша не перадаецца праз шлюз шлях; багажнік выкарыстоўвае ўласныя ключы.

Калі ні адзін з шляхоў не наладжаны, выкарыстоўваецца дэтэрмінатыўны макет.

BYOK: ключы для кожнага арандатара

Калі зменныя асяроддзя наладжваюць аднаго працэснага мадэля. БЯК Дазвольце кожнаму арэндадатчыку прадаставіць свае ўласныя ўліковыя дадзеныя LLM. Ключы BYOK кіруюцца праз адміністрацыйны API:

GET  /v1/admin/byok
POST /v1/admin/byok

Ключы BYOK захоўваюцца ў шыфраваным сейфе, як і любыя іншыя рэквізіты — яны ніколі не запісваюцца ў журнал і не адлюстроўваюцца ў кантэксце мадэлі. Гэта дазваляе мультыарэнтаваму разгортванню захоўваць поўную ізаляцыю рахункаў за мадэлі і ключавых матэрыялаў кожнага кліента.

Выбар паміж сумеснымі наладамі і BYOK

  • Выкарыстоўвайце AIHUMMER_OPENAI_* / AIHUMMER_LLM_* наладкі для мадэль з адным арандатаром або па змаўчанні, якую павінен выкарыстоўваць увесь шлюз.
  • Выкарыстоўваць БЯК калі розныя арандатару павінны выкарыстоўваць розныя ключы, розныя пастаўшчыкі або аплата асобна — ключ на аднаго арандатара замяняе стандартны для таго арандатара.

[!TIP] Паколькі прымаецца любы канчатковы пункт стандарту OpenAI-API, вы можаце паказаць AIHUMMER_OPENAI_BASE_URL на мясцовым мадэльным серверы, OpenRouter або Gemini Сумяшчальны з OpenAI канчатковы пункт без змены чагосьці іншага ў AiHummer.

Як гэта адносіцца да астатняй часткі мадэлі доступу

BYOK ключы з’яўляюцца мадэльнымі пашпартамі і захоўваюцца ў тым жа шыфраваным сейфе, што і Злучэнні і агульныя/асабістыя сакрэты. Розніца ў маштабе: BYOK адказвае на пытанне якую мадэль і ключ выкарыстоўвае гэты арэндаатар, у той час як асабістае супраць сумеснага адказы аб’ёму з улікам таго, з якімiя ўліковыя даныя запускаецца дадзены інструмент.

Куды далей