AiHummer
Oʻzbekcha▾
KirishShaxsiy kabinet
v1.6.x▾
{ }Swagger

BYOK va LLM ta'minlovchilari

v1.6.x · yangilandi 2026-11-09

Ishchi javoblar uchun haqiqiy model provayderini ulang. Pullik API kaliti shart emas: mahalliy OpenAI-mos model, qo‘llab-quvvatlanadigan obuna yoki o‘z API kalitingizdan foydalanishingiz mumkin.

Agar siz ma’lum bir modelni xohlashingiz kelsa, uni o‘zingiz olib kelasiz — yoki jarayon bo‘yicha umumiy sozlama sifatida yoki har bir ijarachi uchun, BYOK (o’zingizning kalitingizni olib keling).

Qo‘llab-quvvatlanadigan LLM provayderlari

AiHummer har qanday OpenAI-uslubidagi chat API’sini ochadigan provayder bilan mahalliy ravishda so‘zlashadi, boshqa provayderlarga tashqi LLM darvozasi orqali yetib boradi va ChatGPT-obuna transportini qo‘llab-quvvatlaydi. Amalda bu quyidagilarni qamrab oladi:

Ta’minlovchi Qanday ulanadi Eslatmalar
OpenAI OpenAI-ga mos mahalliy yo‘l (AIHUMMER_OPENAI_*)
Har qanday OpenAI-API-standart tugun nuqtasi Xuddi shu mahalliy yo’l: AIHUMMER_OPENAI_BASE_URL Mahalliy modellar, OpenRouter, Geminining OpenAI-ga mos API-si va boshqalar.
Antropik Veb-UI Antropik oldindan sozlangan (OpenAI-ga mos) yoki LLM shlyuzi orqali (AIHUMMER_LLM_*) Claude modellarini; brendli provayder tanlagichidan ulang, yoki keyni sidecar shlyuziga ushlab turishga ruxsat bering
Kodni / ChatGPT-obuna transporti Obuna asosidagi transport (AIHUMMER_CODEX_*) O’lchovli API kaliti o’rniga ChatGPT obunasidan foydalanadi

[!WARNING] Ishchi javoblar uchun haqiqiy model provayderini ulang. Pullik API kaliti shart emas: mahalliy OpenAI-mos model, qo‘llab-quvvatlanadigan obuna yoki o‘z API kalitingizdan foydalanishingiz mumkin.

Modelni sozlamalar bilan simlash

LLM kalitlari sozlamalar-katalog knoblar (ma’lumotlar bazasida saqlangan): ularni admin UI da (Boshqaruv → Sozlamalar) yoki bilan o’rnating aihummer settings set, da emas gateway.env. Bor ikki mustaqil sim yo‘llari — ularning o‘zgaruvchilarini aralashtirmang.

(a) Tabiiy OpenAI bilan mos keladigan yo‘l. Shlyuz OpenAI-ga mos keladigan endpointni o‘zi chaqiradi va kalitni o‘zi uzatadi:

aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini

Xuddi shu yo‘l mahalliy OpenAI-ga mos server, OpenRouter yoki Gemini’ning OpenAI-ga mos endpointi uchun ham ishlaydi — shunchaki ko‘rsatish kifoya. AIHUMMER_OPENAI_BASE_URL uning ustida.

(b) LLM-shlyuz yo‘li. AIHUMMER_LLM_GATEWAY_URL OpenAI-ga mos keladigan endpointning asosiy URL manzili — bu xuddi shu sozlama ko‘rsatilgan Konfiguratsiya. Uni gateway sidecar tomoniga yo’naltiring ta’minlovchi kalitlarini o’zi ushlab turadi (hech qanday API kaliti AiHummer orqali o’tmaydi), yoki to’g’ridan-to’g’ri provayderning OpenAI-ga mos API’sida (bu holda siz ham o‘sha provayderning kalitini taqdim qilasiz). Bu mahalliydan farq qiladi AIHUMMER_OPENAI_BASE_URL yo’lda (a):

aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5

[!WARNING] Yo‘llar birlashmaydi: juftlashish AIHUMMER_LLM_GATEWAY_URL bilan AIHUMMER_OPENAI_API_KEY hech narsa qilmaydi — hech qanday tugma gateway orqali uzatilmaydi yo‘l; yon arava o‘z kalitlaridan foydalanadi.

Provayder sozlanmagan bo‘lsa, quyidagi xato ko‘rsatiladi: AI model provayderi hali sozlanmagan — uni «Modellar» boʻlimida qoʻshing

BYOK: har bir ijarachiga mo‘ljallangan kalitlar

Atrof-muhit o’zgaruvchilari yagona jarayon bo’ylab modelni sozlagan joyda, BYOK har bir ijarachi o‘z LLM ma’lumotlarini ta’minlasin. BYOK kalitlari admin API orqali boshqariladi:

GET  /v1/admin/byok
POST /v1/admin/byok

BYOK kalitlari shifrlangan trezor ichida saqlanadi, xuddi boshqa har qanday identifikatsion ma’lumotlar singari — ular hech qachon loglarga yozilmaydi yoki model kontekstida ko‘rinmaydi. Bu mulktenantli ishlatishda har bir mijozning model hisob-kitobi va kalit materiallarini to‘liq alohida saqlash imkonini beradi.

Baham ko‘riladigan sozlamalar va BYOK orasidan tanlash

  • Ishlat AIHUMMER_OPENAI_* / AIHUMMER_LLM_* sozlamalar uchun butun gateway foydalanishi kerak bo’lgan yagona-ijtimoiy yoki standart model.
  • Foydalanish BYOK turli ijarachilar turli kalitlardan foydalanishi kerak bo’lganda, turli ta’minlovchilar, yoki alohida hisoblangan bo‘lishi mumkin — har bir ijarachiga mo‘ljallangan kalit standartni ustun qo‘yadi shu ijarachiga.

[!TIP] Chunki har qanday OpenAI-API-standart tugun nuqtasi qabul qilinadi, siz koʻrsatishingiz mumkin AIHUMMER_OPENAI_BASE_URL mahalliy model serverida, OpenRouter yoki Gemini-da AiHummerdagi boshqa hech narsani o’zgartirmasdan OpenAI-ga mos endpoint.

Bu qolgan kirish modeli bilan qanday bog‘liq

BYOK kalitlari model guvohnomalari bo‘lib, shuningdek, quyidagilar bilan bir xil shifrlangan saqlashxonada yashaydi Ulanishlar va ulashilgan/shaxsiy sirlar. Farq doirada: BYOK qaysi model va kalitdan bu ijarachi foydalanayotganini javoblaydi, while shaxsiy vs umumiy javoblar doirasi ma’lum bir vosita chaqiruvi qaysi credential bilan ishlashini.

Keyingi qayerga