AiHummer
Oʻzbekcha▾
Kirish
v1.0.x▾
v1.0.xstable
{ }Swagger
Kirish va integratsiyalar/BYOK va LLM provayderlari

BYOK va LLM provayderlari

v1.0.x · yangilandi 2026-06-26

AiHummer hech qachon pullik modelni talab qilmaydi. Quticha tashqarisidayoq u bepul va lokal modellar hamda Codex/ChatGPT-obuna transporti ustida ishlaydi, va agar hech qanday model umuman ulanmagan boʻlsa, runtime determinik mok’ka qaytadi, shunda platforma baribir ishga tushadi va sinab koʻrish mumkin boʻladi. Aniq bir modelni xohlaganingizda esa, uni oʻzingiz keltirasiz — yo jarayon boʻyicha konfiguratsiya sifatida, yoki har bir tenant uchun BYOK (“oʻz kalitingizni keltiring”) orqali.

Qoʻllab-quvvatlanadigan LLM provayderlari

AiHummer OpenAI uslubidagi chat API’sini taqdim etadigan har qanday provayder bilan, shuningdek Anthropic va ChatGPT-obuna transporti bilan gaplashadi. Amalda bu quyidagilarni qamrab oladi:

Provayder Qanday ulanadi Izohlar
Anthropic Mahalliy Anthropic API Claude modellari
OpenAI OpenAI chat API
Har qanday OpenAI-API standartidagi endpoint OpenAI bilan mos gateway URL Lokal modellar, OpenRouter, Gemini’ning OpenAI bilan mos API’si va h.k.
Codex / ChatGPT-obuna transporti Obunaga asoslangan transport Hisoblanadigan API kaliti oʻrniga ChatGPT obunasidan foydalanadi

[!WARNING] Hech qachon pullik model API’si majburiy emas. AiHummer bepul/lokal modellar va Codex/ChatGPT-obuna transporti ustida ishlaydi, va agar hech qanday model sozlanmagan boʻlsa, runtime determinik mok’dan foydalanadi — gateway baribir ishga tushadi va javob beradi. BYOK va pullik kalitlar butunlay ixtiyoriy.

Modelni atrof-muhit oʻzgaruvchilari bilan ulash

Model toʻrtta atrof-muhit oʻzgaruvchisi bilan tanlanadi. Provayder va modelni oʻrnating, OpenAI bilan mos endpoint’lar uchun gateway URL’ga ishora qiling, va kalitni faqat endpoint talab qilsa taqdim eting:

AIHUMMER_LLM_PROVIDER=openai
AIHUMMER_LLM_MODEL=gpt-4o-mini
AIHUMMER_LLM_GATEWAY_URL=https://api.openai.com/v1
AIHUMMER_OPENAI_API_KEY=sk-...

Lokal OpenAI bilan mos server uchun gateway URL’ni unga ishora qiling, va kalit odatda kerak boʻlmaydi:

AIHUMMER_LLM_PROVIDER=openai
AIHUMMER_LLM_MODEL=qwen2.5-instruct
AIHUMMER_LLM_GATEWAY_URL=http://127.0.0.1:8080/v1

Agar AIHUMMER_LLM_PROVIDER / AIHUMMER_LLM_MODEL mavjud boʻlmasa, determinik mok ishlatiladi.

BYOK: tenant boʻyicha kalitlar

Atrof-muhit oʻzgaruvchilari bitta jarayon boʻyicha modelni sozlasa, BYOK har bir tenant’ga oʻzining LLM hisob maʼlumotlarini taqdim etish imkonini beradi. BYOK kalitlari admin API’dan boshqariladi:

GET  /v1/admin/byok
POST /v1/admin/byok

BYOK kalitlari boshqa barcha hisob maʼlumotlari kabi shifrlangan saqlovda saqlanadi — ular hech qachon loglarga yozilmaydi yoki model kontekstida koʻrinmaydi. Aynan shu narsa koʻp-tenantli oʻrnatmaga har bir mijozning model hisob-kitobi va kalit materialini toʻliq ajratib turish imkonini beradi.

env va BYOK orasida tanlash

  • Butun gateway foydalanishi kerak boʻlgan bitta tenant’li yoki standart model uchun AIHUMMER_LLM_* atrof-muhit oʻzgaruvchilaridan foydalaning.
  • Turli tenant’lar turli kalitlardan, turli provayderlardan foydalanishi yoki alohida hisob-kitob qilinishi kerak boʻlganda BYOK’dan foydalaning — tenant boʻyicha kalit oʻsha tenant uchun standartni bekor qiladi.

[!TIP] Har qanday OpenAI-API standartidagi endpoint qabul qilingani uchun siz lokal model serverini, OpenRouter’ni yoki Gemini OpenAI bilan mos endpoint’ni AIHUMMER_LLM_GATEWAY_URL ortiga AiHummer’da boshqa hech narsani oʻzgartirmasdan qoʻyishingiz mumkin.

Bu kirish modelining qolgan qismi bilan qanday bogʻlanadi

BYOK kalitlari model hisob maʼlumotlari boʻlib, Ulanishlar va umumiy/shaxsiy sirlar bilan bir xil shifrlangan saqlovda yashaydi. Farq qamrovda: BYOK bu tenant qaysi model va kalitdan foydalanishini aniqlasa, shaxsiy va umumiy qamrovi berilgan asbob chaqiruvi kimning hisob maʼlumotlari bilan ishlashini aniqlaydi.

Keyin qayerga