BYOK және LLM жеткізушілері — AiHummer Құжаттама

AiHummer ешқашан ақылы модельді қажет етпейді. Қораптан шыққан бойда ол тегін және жергілікті модельдерде, сондай-ақ Codex/ChatGPT жазылымын тасымалдаушы ретінде жұмыс істейді, және егер мүлдем модель қосылмаған болса, орындау уақыты детерминистік макетке қайтып оралады, сонда платформа әлі де іске қосылады және тестіленеді. Егер сіз нақты модельді қаласаңыз, оны өзіңіз әкелесіз — немесе бүкіл процесс бойынша конфигурация ретінде, немесе әр бір клиент бойынша. BYOK («өз кілтіңді өзің ал»)

Қолданылатын LLM жеткізушілері

AiHummer кез келген OpenAI стиліндегі чат API-ын ұсынатын провайдермен жергілікті түрде сөйлеседі, басқа провайдерлерге сыртқы LLM шлюзі арқылы жетеді және ChatGPT-жазылым тасымалдауын қолдайды. Практикада бұл мыналарды қамтиды:

Көрсетуші	Оны қалай қосады	Ескертпелер
OpenAI	Туынды OpenAI-пен үйлесімді жол (`AIHUMMER_OPENAI_*`)
Кез келген OpenAI-API-стандартты тіркелу нүктесі	Сол жергілікті жол: `AIHUMMER_OPENAI_BASE_URL`	Жергілікті модельдер, OpenRouter, Gemini-дің OpenAI үйлесімді API және т.б.
Антропик	Веб-интерфейс Антропик алдын ала орнатылған (OpenAI-пен үйлесімді) немесе LLM шлюзі арқылы (`AIHUMMER_LLM_*`)	Claude үлгілері; оны брендті провайдер таңдауынан қосыңыз, немесе бауырлас шлюзтің кілтті ұстап тұруына жол беріңіз
Кодекс / ChatGPT-жазылым көлігі	Жазылымдық негізде қызмет көрсетілетін көлік (`AIHUMMER_CODEX_*`)	Өлшенетін API кілтінің орнына ChatGPT жазылымын пайдаланады

[!WARNING] Төленетін модель API ешқашан міндетті емес. AiHummer тегін/жергілікті модельдерде жұмыс істейді және Codex/ChatGPT-жазылым тасымалы, және егер ешбір модель бапталмаған болса жұмыс уақыты детерминирленген үлгіні пайдаланады — қақпа әлі де іске қосылады және жауап береді. BYOK және төленген кілттер толығымен ерікті.

Модельді параметрлермен қосу

LLM кілттері параметрлер-каталог түймелер (деректер базасында сақталған): оларды әкімші интерфейсінде баптаңыз (Басқару → Параметрлер) немесе арқылы aihummer settings set, емес gateway.env. Бар екі тәуелсіз сым жолдары — олардың айнымалыларын араластырмаңыз.

(a) OpenAI-ге сай жергілікті жол. Шлюз OpenAI-ге сәйкес келетін соңғы нүктені өзі шақырады және кілтті өздігінен береді:

aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini

Сол жол жергілікті OpenAI үйлесімді сервері, OpenRouter немесе Gemini-дің OpenAI үйлесімді нүктесі үшін де жұмыс істейді — жай ғана нұсқаңыз AIHUMMER_OPENAI_BASE_URL оған.

(b) LLM-шлюз бағыты. AIHUMMER_LLM_GATEWAY_URL OpenAI-ге сәйкес келетін соңғы нүктенің негізгі URL мекенжайы — бұл көрсетілген баптау дәл сол Конфигурация. Басты шлюздік қосалқы құрылғыға бағыттаңыз пайдаланушы кілттерін өзінде ұстайды (AiHummer арқылы ешқандай API кілті өткізілмейді), немесе тікелей провайдердің OpenAI-сәйкес API-де (оның жағдайда сіз сондай-ақ сол провайдердің кілтін қамтамасыз етесіз). Бұл жергілікті нұсқадан ерекшеленеді AIHUMMER_OPENAI_BASE_URL жолда (a):

aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5

[!WARNING] Жолдар біріспейді: жұптау AIHUMMER_LLM_GATEWAY_URL пен AIHUMMER_OPENAI_API_KEY ешнәрсе істемейді — ешбір перне шлюз арқылы жіберілмейді жол; сайдкар өзінің кілттерін қолданады.

Егер ешбір жол бапталмаған болса, детерминирленген макет қолданылады.

BYOK: әр-тұрғын кілттері

Қай жерінде қоршаған ортаның айнымалылары бір процесс бойынша модельді конфигурациялайды, BYOK Әрбір жалға алушы өзінің LLM куәліктерін қамтамасыз етсін. BYOK кілттері әкімші API арқылы басқарылады:

GET  /v1/admin/byok
POST /v1/admin/byok

BYOK кілттері шифрланған сейфте сақталады, басқа барлық куәліктер сияқты — олар ешқашан журналдарға жазылмайды немесе модель контекстінде көрсетілмейді. Бұл көптұтынушы орналастыру әр клиенттің модель төлемдері мен кілт материалдарын толық бөлек сақтауға мүмкіндік береді.

Ортақ баптаулар мен BYOK арасында таңдау жасау

Қолдану AIHUMMER_OPENAI_* / AIHUMMER_LLM_* параметрлер үшін бір жалға алушы немесе барлық шлюз қолдануы тиіс әдепкі модель.
Пайдалану BYOK әр түрлі жалға алушылар әр түрлі кілттерді қолдануға тиіс болғанда, әр түрлі қызмет көрсетушілер немесе бөлек төленуі мүмкін — әр жалға алушыға арналған кілт әдепкі баптауды басып озады сол жалға алушы үшін.

[!TIP] Өйткені кез келген OpenAI-API-стандартты нүктесі қабылданады, сіз бағыттай аласыз AIHUMMER_OPENAI_BASE_URL жергілікті модель серверінде, OpenRouter-де немесе Gemini-де AiHummer-да ештеңені өзгертпей, OpenAI-ге үйлесімді соңғы нүкте.

Бұл қалған қол жеткізу үлгісімен қалай байланысты

BYOK кілттері модельдің куәліктері болып табылады және сол шифрланған сандық сақтауда сақталады Байланыстар және ортақ/жеке құпиялар. Айырмашылық ауқымында: BYOK жауап береді қай модельді және осы жалдаушы қандай кілт қолданатынын, ал жеке vs ортақ шамалас жауаптар берілген құрал қоңырауын қандай куәліктермен іске қосатынымен.

Келесі қайда

Жеке және ортақ тіркелгі деректері
Байланыстар (пайдаланушыға арналған OAuth2)
Кіріспе — ақысыз модельдер мәнмәтіндегі қағида