BYOK және LLM жеткізушілері
Жұмыс жауаптарын алу үшін нақты модель провайдерін қосыңыз. Ақылы API кілті міндетті емес: жергілікті OpenAI-үйлесімді модельді, қолдау көрсетілетін жазылымды немесе өз API кілтіңізді пайдалануға болады.
Егер сіз нақты модельді қаласаңыз, оны өзіңіз әкелесіз — немесе бүкіл процесс бойынша конфигурация ретінде, немесе әр бір клиент бойынша. BYOK («өз кілтіңді өзің ал»)
Қолданылатын LLM жеткізушілері
AiHummer кез келген OpenAI стиліндегі чат API-ын ұсынатын провайдермен жергілікті түрде сөйлеседі, басқа провайдерлерге сыртқы LLM шлюзі арқылы жетеді және ChatGPT-жазылым тасымалдауын қолдайды. Практикада бұл мыналарды қамтиды:
| Көрсетуші | Оны қалай қосады | Ескертпелер |
|---|---|---|
| OpenAI | Туынды OpenAI-пен үйлесімді жол (AIHUMMER_OPENAI_*) |
|
| Кез келген OpenAI-API-стандартты тіркелу нүктесі | Сол жергілікті жол: AIHUMMER_OPENAI_BASE_URL |
Жергілікті модельдер, OpenRouter, Gemini-дің OpenAI үйлесімді API және т.б. |
| Антропик | Веб-интерфейс Антропик алдын ала орнатылған (OpenAI-пен үйлесімді) немесе LLM шлюзі арқылы (AIHUMMER_LLM_*) |
Claude үлгілері; оны брендті провайдер таңдауынан қосыңыз, немесе бауырлас шлюзтің кілтті ұстап тұруына жол беріңіз |
| Кодекс / ChatGPT-жазылым көлігі | Жазылымдық негізде қызмет көрсетілетін көлік (AIHUMMER_CODEX_*) |
Өлшенетін API кілтінің орнына ChatGPT жазылымын пайдаланады |
[!WARNING] Жұмыс жауаптарын алу үшін нақты модель провайдерін қосыңыз. Ақылы API кілті міндетті емес: жергілікті OpenAI-үйлесімді модельді, қолдау көрсетілетін жазылымды немесе өз API кілтіңізді пайдалануға болады.
Модельді параметрлермен қосу
LLM кілттері параметрлер-каталог түймелер (деректер базасында сақталған): оларды әкімші интерфейсінде баптаңыз (Басқару → Параметрлер) немесе арқылы aihummer settings set, емес gateway.env. Бар екі тәуелсіз сым жолдары — олардың айнымалыларын араластырмаңыз.
(a) OpenAI-ге сай жергілікті жол. Шлюз OpenAI-ге сәйкес келетін соңғы нүктені өзі шақырады және кілтті өздігінен береді:
aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini
Сол жол жергілікті OpenAI үйлесімді сервері, OpenRouter немесе Gemini-дің OpenAI үйлесімді нүктесі үшін де жұмыс істейді — жай ғана нұсқаңыз AIHUMMER_OPENAI_BASE_URL оған.
(b) LLM-шлюз бағыты. AIHUMMER_LLM_GATEWAY_URL OpenAI-ге сәйкес келетін соңғы нүктенің негізгі URL мекенжайы — бұл көрсетілген баптау дәл сол Конфигурация. Басты шлюздік қосалқы құрылғыға бағыттаңыз пайдаланушы кілттерін өзінде ұстайды (AiHummer арқылы ешқандай API кілті өткізілмейді), немесе тікелей провайдердің OpenAI-сәйкес API-де (оның жағдайда сіз сондай-ақ сол провайдердің кілтін қамтамасыз етесіз). Бұл жергілікті нұсқадан ерекшеленеді AIHUMMER_OPENAI_BASE_URL жолда (a):
aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5
[!WARNING] Жолдар біріспейді: жұптау
AIHUMMER_LLM_GATEWAY_URLпенAIHUMMER_OPENAI_API_KEYешнәрсе істемейді — ешбір перне шлюз арқылы жіберілмейді жол; сайдкар өзінің кілттерін қолданады.
Провайдер бапталмаса, мына қате көрсетіледі: AI модель провайдері әлі бапталмаған — оны «Модельдер» бөлімінде қосыңыз
BYOK: әр-тұрғын кілттері
Қай жерінде қоршаған ортаның айнымалылары бір процесс бойынша модельді конфигурациялайды, BYOK Әрбір жалға алушы өзінің LLM куәліктерін қамтамасыз етсін. BYOK кілттері әкімші API арқылы басқарылады:
GET /v1/admin/byok
POST /v1/admin/byok
BYOK кілттері шифрланған сейфте сақталады, басқа барлық куәліктер сияқты — олар ешқашан журналдарға жазылмайды немесе модель контекстінде көрсетілмейді. Бұл көптұтынушы орналастыру әр клиенттің модель төлемдері мен кілт материалдарын толық бөлек сақтауға мүмкіндік береді.
Ортақ баптаулар мен BYOK арасында таңдау жасау
- Қолдану
AIHUMMER_OPENAI_*/AIHUMMER_LLM_*параметрлер үшін бір жалға алушы немесе барлық шлюз қолдануы тиіс әдепкі модель. - Пайдалану BYOK әр түрлі жалға алушылар әр түрлі кілттерді қолдануға тиіс болғанда, әр түрлі қызмет көрсетушілер немесе бөлек төленуі мүмкін — әр жалға алушыға арналған кілт әдепкі баптауды басып озады сол жалға алушы үшін.
[!TIP] Өйткені кез келген OpenAI-API-стандартты нүктесі қабылданады, сіз бағыттай аласыз
AIHUMMER_OPENAI_BASE_URLжергілікті модель серверінде, OpenRouter-де немесе Gemini-де AiHummer-да ештеңені өзгертпей, OpenAI-ге үйлесімді соңғы нүкте.
Бұл қалған қол жеткізу үлгісімен қалай байланысты
BYOK кілттері модельдің куәліктері болып табылады және сол шифрланған сандық сақтауда сақталады Байланыстар және ортақ/жеке құпиялар. Айырмашылық ауқымында: BYOK жауап береді қай модельді және осы жалдаушы қандай кілт қолданатынын, ал жеке vs ортақ шамалас жауаптар берілген құрал қоңырауын қандай куәліктермен іске қосатынымен.
Келесі қайда
- Жеке және ортақ тіркелгі деректері
- Байланыстар (пайдаланушыға арналған OAuth2)
- Кіріспе — ақысыз модельдер мәнмәтіндегі қағида