AiHummer
Oʻzbekcha▾
KirishShaxsiy kabinet
v1.2.x▾
v1.2.xstablev1.1.xstablev1.0.xstable
{ }Swagger
Kirish va integratsiyalar/BYOK va LLM ta'minlovchilari

BYOK va LLM ta'minlovchilari

v1.2.x · yangilandi 2026-07-05

AiHummer hech qachon pullik modelni talab qilmaydi. Tayyor holatda u bepul va lokal modellarda va Codex/ChatGPT-obuna transportida ishlaydi, va agar hech qanday model ulanmagan bo‘lsa, ish vaqti deterministik soxta modelga qaytadi, shuning uchun platforma hali ham ishga tushadi va sinovdan o‘tkazilishi mumkin. Agar siz ma’lum bir modelni xohlashingiz kelsa, uni o‘zingiz olib kelasiz — yoki jarayon bo‘yicha umumiy sozlama sifatida yoki har bir ijarachi uchun, BYOK (o’zingizning kalitingizni olib keling).

Qo‘llab-quvvatlanadigan LLM provayderlari

AiHummer har qanday OpenAI-uslubidagi chat API’sini ochadigan provayder bilan mahalliy ravishda so‘zlashadi, boshqa provayderlarga tashqi LLM darvozasi orqali yetib boradi va ChatGPT-obuna transportini qo‘llab-quvvatlaydi. Amalda bu quyidagilarni qamrab oladi:

Ta’minlovchi Qanday ulanadi Eslatmalar
OpenAI OpenAI-ga mos mahalliy yo‘l (AIHUMMER_OPENAI_*)
Har qanday OpenAI-API-standart tugun nuqtasi Xuddi shu mahalliy yo’l: AIHUMMER_OPENAI_BASE_URL Mahalliy modellar, OpenRouter, Geminining OpenAI-ga mos API-si va boshqalar.
Antropik Veb-UI Antropik oldindan sozlangan (OpenAI-ga mos) yoki LLM shlyuzi orqali (AIHUMMER_LLM_*) Claude modellarini; brendli provayder tanlagichidan ulang, yoki keyni sidecar shlyuziga ushlab turishga ruxsat bering
Kodni / ChatGPT-obuna transporti Obuna asosidagi transport (AIHUMMER_CODEX_*) O’lchovli API kaliti o’rniga ChatGPT obunasidan foydalanadi

[!WARNING] Hech qanday pullik model API majburiy emas. AiHummer bepul/mahalliy modellarda ishlaydi va Codex/ChatGPT-obuna transporti, va agar hech qanday model sozlanmagan bo’lsa ishlash vaqti deterministik mockdan foydalanadi — eshik hanuz ishga tushadi va javob beradi. BYOK va pullik kalitlar butunlay ixtiyoriydir.

Modelni sozlamalar bilan simlash

LLM kalitlari sozlamalar-katalog knoblar (ma’lumotlar bazasida saqlangan): ularni admin UI da (Boshqaruv → Sozlamalar) yoki bilan o’rnating aihummer settings set, da emas gateway.env. Bor ikki mustaqil sim yo‘llari — ularning o‘zgaruvchilarini aralashtirmang.

(a) Tabiiy OpenAI bilan mos keladigan yo‘l. Shlyuz OpenAI-ga mos keladigan endpointni o‘zi chaqiradi va kalitni o‘zi uzatadi:

aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini

Xuddi shu yo‘l mahalliy OpenAI-ga mos server, OpenRouter yoki Gemini’ning OpenAI-ga mos endpointi uchun ham ishlaydi — shunchaki ko‘rsatish kifoya. AIHUMMER_OPENAI_BASE_URL uning ustida.

(b) LLM-shlyuz yo‘li. AIHUMMER_LLM_GATEWAY_URL OpenAI-ga mos keladigan endpointning asosiy URL manzili — bu xuddi shu sozlama ko‘rsatilgan Konfiguratsiya. Uni gateway sidecar tomoniga yo’naltiring ta’minlovchi kalitlarini o’zi ushlab turadi (hech qanday API kaliti AiHummer orqali o’tmaydi), yoki to’g’ridan-to’g’ri provayderning OpenAI-ga mos API’sida (bu holda siz ham o‘sha provayderning kalitini taqdim qilasiz). Bu mahalliydan farq qiladi AIHUMMER_OPENAI_BASE_URL yo’lda (a):

aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5

[!WARNING] Yo‘llar birlashmaydi: juftlashish AIHUMMER_LLM_GATEWAY_URL bilan AIHUMMER_OPENAI_API_KEY hech narsa qilmaydi — hech qanday tugma gateway orqali uzatilmaydi yo‘l; yon arava o‘z kalitlaridan foydalanadi.

Agar hech qaysi yo‘l sozlanmagan bo‘lsa, deterministik mock ishlatiladi.

BYOK: har bir ijarachiga mo‘ljallangan kalitlar

Atrof-muhit o’zgaruvchilari yagona jarayon bo’ylab modelni sozlagan joyda, BYOK har bir ijarachi o‘z LLM ma’lumotlarini ta’minlasin. BYOK kalitlari admin API orqali boshqariladi:

GET  /v1/admin/byok
POST /v1/admin/byok

BYOK kalitlari shifrlangan trezor ichida saqlanadi, xuddi boshqa har qanday identifikatsion ma’lumotlar singari — ular hech qachon loglarga yozilmaydi yoki model kontekstida ko‘rinmaydi. Bu mulktenantli ishlatishda har bir mijozning model hisob-kitobi va kalit materiallarini to‘liq alohida saqlash imkonini beradi.

Baham ko‘riladigan sozlamalar va BYOK orasidan tanlash

  • Ishlat AIHUMMER_OPENAI_* / AIHUMMER_LLM_* sozlamalar uchun butun gateway foydalanishi kerak bo’lgan yagona-ijtimoiy yoki standart model.
  • Foydalanish BYOK turli ijarachilar turli kalitlardan foydalanishi kerak bo’lganda, turli ta’minlovchilar, yoki alohida hisoblangan bo‘lishi mumkin — har bir ijarachiga mo‘ljallangan kalit standartni ustun qo‘yadi shu ijarachiga.

[!TIP] Chunki har qanday OpenAI-API-standart tugun nuqtasi qabul qilinadi, siz koʻrsatishingiz mumkin AIHUMMER_OPENAI_BASE_URL mahalliy model serverida, OpenRouter yoki Gemini-da AiHummerdagi boshqa hech narsani o’zgartirmasdan OpenAI-ga mos endpoint.

Bu qolgan kirish modeli bilan qanday bog‘liq

BYOK kalitlari model guvohnomalari bo‘lib, shuningdek, quyidagilar bilan bir xil shifrlangan saqlashxonada yashaydi Ulanishlar va ulashilgan/shaxsiy sirlar. Farq doirada: BYOK qaysi model va kalitdan bu ijarachi foydalanayotganini javoblaydi, while shaxsiy vs umumiy javoblar doirasi ma’lum bir vosita chaqiruvi qaysi credential bilan ishlashini.

Keyingi qayerga