BYOK ва провайдерҳои LLM

AIHUMMER_LLM_PROVIDER=openai
AIHUMMER_LLM_MODEL=gpt-4o-mini
AIHUMMER_LLM_GATEWAY_URL=https://api.openai.com/v1
AIHUMMER_OPENAI_API_KEY=sk-...

AIHUMMER_LLM_PROVIDER=openai
AIHUMMER_LLM_MODEL=qwen2.5-instruct
AIHUMMER_LLM_GATEWAY_URL=http://127.0.0.1:8080/v1

GET  /v1/admin/byok
POST /v1/admin/byok

AiHummer ҳеҷ гоҳ модели пулакиро *талаб* намекунад. Бо танзимоти пешфарз он бо моделҳои ройгон ва маҳаллӣ ва транспорти обунаи Codex/ChatGPT кор мекунад, ва агар ҳеҷ модел тамоман васл нашуда бошад, рантайм ба як мокҳои детерминистӣ бармегардад, то платформа ҳамоно оғоз ёбад ва тестшаванда бошад. Вақте ки шумо модели мушаххасро мехоҳед, шумо онро худатон меоред — ё ҳамчун танзимоти дар тамоми раванд, ё барои ҳар як иҷоранишин, бо **BYOK** ("калиди худро биёр"). ## Провайдерҳои дастгиришавандаи LLM AiHummer бо ҳар провайдере, ки API-и чати OpenAI-монандро ошкор мекунад, инчунин бо Anthropic ва транспорти обунаи ChatGPT гап мезанад. Дар амал ин чизҳои зеринро дар бар мегирад: | Провайдер | Чӣ гуна васл мешавад | Эзоҳҳо | |---|---|---| | **Anthropic** | API-и аслии Anthropic | Моделҳои Claude | | **OpenAI** | API-и чати OpenAI | | | **Ҳар нуқтаи ниҳоии стандарти OpenAI-API** | URL-и шлюзи OpenAI-мутобиқ | Моделҳои маҳаллӣ, OpenRouter, API-и OpenAI-мутобиқи Gemini ва ғ. | | **Транспорти обунаи Codex / ChatGPT** | Транспорти бар обуна асосёфта | Аз обунаи ChatGPT ба ҷои калиди API-и ҳисобшаванда истифода мебарад | > [!WARNING] > Ҳеҷ API-и модели пулакӣ ҳаргиз ҳатмӣ нест. AiHummer бо моделҳои ройгон/маҳаллӣ ва > транспорти обунаи Codex/ChatGPT кор мекунад, ва **агар ҳеҷ модел танзим нашуда бошад, > рантайм мокҳои детерминистиро истифода мебарад** — шлюз ҳамоно оғоз меёбад ва ҷавоб медиҳад. > BYOK ва калидҳои пулакӣ комилан ихтиёрӣ ҳастанд. ## Васл кардани модел бо тағйирёбандаҳои муҳит Модел бо чор тағйирёбандаи муҳит интихоб мешавад. Провайдер ва моделро таъин кунед, барои нуқтаҳои ниҳоии OpenAI-мутобиқ ба як URL-и шлюз ишора кунед, ва калидро танҳо агар нуқтаи ниҳоӣ ба он ниёз дошта бошад, таъмин кунед: ```ini AIHUMMER_LLM_PROVIDER=openai AIHUMMER_LLM_MODEL=gpt-4o-mini AIHUMMER_LLM_GATEWAY_URL=https://api.openai.com/v1 AIHUMMER_OPENAI_API_KEY=sk-... ``` Барои сервери маҳаллии OpenAI-мутобиқ, URL-и шлюзро ба он ишора кунед ва калид одатан зарур нест: ```ini AIHUMMER_LLM_PROVIDER=openai AIHUMMER_LLM_MODEL=qwen2.5-instruct AIHUMMER_LLM_GATEWAY_URL=http://127.0.0.1:8080/v1 ``` Агар `AIHUMMER_LLM_PROVIDER` / `AIHUMMER_LLM_MODEL` мавҷуд набошанд, мокҳои детерминистӣ истифода мешаванд. ## BYOK: калидҳо барои ҳар иҷоранишин Дар ҷое ки тағйирёбандаҳои муҳит як модели дар тамоми равандро танзим мекунанд, **BYOK** имкон медиҳад, ки ҳар иҷоранишин эътимоднома (credentials)-и LLM-и худро таъмин кунад. Калидҳои BYOK аз API-и админ идора мешаванд: ```http GET /v1/admin/byok POST /v1/admin/byok ``` Калидҳои BYOK дар анбори рамзгузошта (encrypted vault) нигоҳ дошта мешаванд, ҳамон тавре ки ҳар як эътимоднмаи дигар — онҳо ҳаргиз ба логҳо навишта намешаванд ё дар контексти модел зоҳир намешаванд. Ин он чизест, ки ба як гузориши бисёриҷоранишин имкон медиҳад, то ҳисоббаробаркунии модел ва маводи калиди ҳар як муштариро комилан ҷудо нигоҳ дорад. ## Интихоб байни муҳит ва BYOK - **Тағйирёбандаҳои муҳити `AIHUMMER_LLM_*`** -ро барои модели якиҷоранишин ё пешфарз, ки тамоми шлюз бояд истифода барад, истифода баред. - **BYOK** -ро вақте истифода баред, ки иҷоранишинҳои гуногун бояд калидҳои гуногун, провайдерҳои гуногунро истифода баранд, ё ҷудогона ҳисоб карда шаванд — калиди ҳар иҷоранишин пешфарзро барои он иҷоранишин боло мегузаронад. > [!TIP] > Азбаски ҳар нуқтаи ниҳоии стандарти OpenAI-API қабул мешавад, шумо метавонед сервери > модели маҳаллӣ, OpenRouter ё нуқтаи ниҳоии OpenAI-мутобиқи Gemini-ро дар паси > `AIHUMMER_LLM_GATEWAY_URL` ҷойгир кунед, бе тағйир додани ягон чизи дигар дар AiHummer. ## Чӣ гуна ин ба боқимондаи модели дастрасӣ алоқаманд аст Калидҳои BYOK эътимоднмаҳои модел ҳастанд ва дар ҳамон анбори рамзгузошта зиндагӣ мекунанд, ки [Пайвастагиҳо](/en/v1.0/access/connections-oauth2) ва сирҳои муштарак/шахсӣ. Фарқият дар доира аст: BYOK ба он *кадом модел ва калидро ин иҷоранишин истифода мебарад* ҷавоб медиҳад, дар ҳоле ки доираи [шахсӣ дар муқобили муштарак](/en/v1.0/access/personal-vs-shared) ба он ҷавоб медиҳад, ки *эътимоднмаҳои кӣ як даъвати асбоби додашуда бо он иҷро мешавад*. ## Минбаъд ба куҷо - [Эътимоднмаҳои шахсӣ дар муқобили муштарак](/en/v1.0/access/personal-vs-shared) - [Пайвастагиҳо (OAuth2 барои ҳар корбар)](/en/v1.0/access/connections-oauth2) - [Муқаддима](/en/v1.0/getting-started/introduction) — принсипи модели бе пул дар контекст.