AiHummer
Қазақша▾
КіруЖеке кабинет
v1.6.x▾
{ }Swagger

BYOK және LLM жеткізушілері

v1.6.x · жаңартылды 2026-11-09

Жұмыс жауаптарын алу үшін нақты модель провайдерін қосыңыз. Ақылы API кілті міндетті емес: жергілікті OpenAI-үйлесімді модельді, қолдау көрсетілетін жазылымды немесе өз API кілтіңізді пайдалануға болады.

Егер сіз нақты модельді қаласаңыз, оны өзіңіз әкелесіз — немесе бүкіл процесс бойынша конфигурация ретінде, немесе әр бір клиент бойынша. BYOK («өз кілтіңді өзің ал»)

Қолданылатын LLM жеткізушілері

AiHummer кез келген OpenAI стиліндегі чат API-ын ұсынатын провайдермен жергілікті түрде сөйлеседі, басқа провайдерлерге сыртқы LLM шлюзі арқылы жетеді және ChatGPT-жазылым тасымалдауын қолдайды. Практикада бұл мыналарды қамтиды:

Көрсетуші Оны қалай қосады Ескертпелер
OpenAI Туынды OpenAI-пен үйлесімді жол (AIHUMMER_OPENAI_*)
Кез келген OpenAI-API-стандартты тіркелу нүктесі Сол жергілікті жол: AIHUMMER_OPENAI_BASE_URL Жергілікті модельдер, OpenRouter, Gemini-дің OpenAI үйлесімді API және т.б.
Антропик Веб-интерфейс Антропик алдын ала орнатылған (OpenAI-пен үйлесімді) немесе LLM шлюзі арқылы (AIHUMMER_LLM_*) Claude үлгілері; оны брендті провайдер таңдауынан қосыңыз, немесе бауырлас шлюзтің кілтті ұстап тұруына жол беріңіз
Кодекс / ChatGPT-жазылым көлігі Жазылымдық негізде қызмет көрсетілетін көлік (AIHUMMER_CODEX_*) Өлшенетін API кілтінің орнына ChatGPT жазылымын пайдаланады

[!WARNING] Жұмыс жауаптарын алу үшін нақты модель провайдерін қосыңыз. Ақылы API кілті міндетті емес: жергілікті OpenAI-үйлесімді модельді, қолдау көрсетілетін жазылымды немесе өз API кілтіңізді пайдалануға болады.

Модельді параметрлермен қосу

LLM кілттері параметрлер-каталог түймелер (деректер базасында сақталған): оларды әкімші интерфейсінде баптаңыз (Басқару → Параметрлер) немесе арқылы aihummer settings set, емес gateway.env. Бар екі тәуелсіз сым жолдары — олардың айнымалыларын араластырмаңыз.

(a) OpenAI-ге сай жергілікті жол. Шлюз OpenAI-ге сәйкес келетін соңғы нүктені өзі шақырады және кілтті өздігінен береді:

aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini

Сол жол жергілікті OpenAI үйлесімді сервері, OpenRouter немесе Gemini-дің OpenAI үйлесімді нүктесі үшін де жұмыс істейді — жай ғана нұсқаңыз AIHUMMER_OPENAI_BASE_URL оған.

(b) LLM-шлюз бағыты. AIHUMMER_LLM_GATEWAY_URL OpenAI-ге сәйкес келетін соңғы нүктенің негізгі URL мекенжайы — бұл көрсетілген баптау дәл сол Конфигурация. Басты шлюздік қосалқы құрылғыға бағыттаңыз пайдаланушы кілттерін өзінде ұстайды (AiHummer арқылы ешқандай API кілті өткізілмейді), немесе тікелей провайдердің OpenAI-сәйкес API-де (оның жағдайда сіз сондай-ақ сол провайдердің кілтін қамтамасыз етесіз). Бұл жергілікті нұсқадан ерекшеленеді AIHUMMER_OPENAI_BASE_URL жолда (a):

aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5

[!WARNING] Жолдар біріспейді: жұптау AIHUMMER_LLM_GATEWAY_URL пен AIHUMMER_OPENAI_API_KEY ешнәрсе істемейді — ешбір перне шлюз арқылы жіберілмейді жол; сайдкар өзінің кілттерін қолданады.

Провайдер бапталмаса, мына қате көрсетіледі: AI модель провайдері әлі бапталмаған — оны «Модельдер» бөлімінде қосыңыз

BYOK: әр-тұрғын кілттері

Қай жерінде қоршаған ортаның айнымалылары бір процесс бойынша модельді конфигурациялайды, BYOK Әрбір жалға алушы өзінің LLM куәліктерін қамтамасыз етсін. BYOK кілттері әкімші API арқылы басқарылады:

GET  /v1/admin/byok
POST /v1/admin/byok

BYOK кілттері шифрланған сейфте сақталады, басқа барлық куәліктер сияқты — олар ешқашан журналдарға жазылмайды немесе модель контекстінде көрсетілмейді. Бұл көптұтынушы орналастыру әр клиенттің модель төлемдері мен кілт материалдарын толық бөлек сақтауға мүмкіндік береді.

Ортақ баптаулар мен BYOK арасында таңдау жасау

  • Қолдану AIHUMMER_OPENAI_* / AIHUMMER_LLM_* параметрлер үшін бір жалға алушы немесе барлық шлюз қолдануы тиіс әдепкі модель.
  • Пайдалану BYOK әр түрлі жалға алушылар әр түрлі кілттерді қолдануға тиіс болғанда, әр түрлі қызмет көрсетушілер немесе бөлек төленуі мүмкін — әр жалға алушыға арналған кілт әдепкі баптауды басып озады сол жалға алушы үшін.

[!TIP] Өйткені кез келген OpenAI-API-стандартты нүктесі қабылданады, сіз бағыттай аласыз AIHUMMER_OPENAI_BASE_URL жергілікті модель серверінде, OpenRouter-де немесе Gemini-де AiHummer-да ештеңені өзгертпей, OpenAI-ге үйлесімді соңғы нүкте.

Бұл қалған қол жеткізу үлгісімен қалай байланысты

BYOK кілттері модельдің куәліктері болып табылады және сол шифрланған сандық сақтауда сақталады Байланыстар және ортақ/жеке құпиялар. Айырмашылық ауқымында: BYOK жауап береді қай модельді және осы жалдаушы қандай кілт қолданатынын, ал жеке vs ортақ шамалас жауаптар берілген құрал қоңырауын қандай куәліктермен іске қосатынымен.

Келесі қайда