BYOK va LLM ta'minlovchilari
Ishchi javoblar uchun haqiqiy model provayderini ulang. Pullik API kaliti shart emas: mahalliy OpenAI-mos model, qo‘llab-quvvatlanadigan obuna yoki o‘z API kalitingizdan foydalanishingiz mumkin.
Agar siz ma’lum bir modelni xohlashingiz kelsa, uni o‘zingiz olib kelasiz — yoki jarayon bo‘yicha umumiy sozlama sifatida yoki har bir ijarachi uchun, BYOK (o’zingizning kalitingizni olib keling).
Qo‘llab-quvvatlanadigan LLM provayderlari
AiHummer har qanday OpenAI-uslubidagi chat API’sini ochadigan provayder bilan mahalliy ravishda so‘zlashadi, boshqa provayderlarga tashqi LLM darvozasi orqali yetib boradi va ChatGPT-obuna transportini qo‘llab-quvvatlaydi. Amalda bu quyidagilarni qamrab oladi:
| Ta’minlovchi | Qanday ulanadi | Eslatmalar |
|---|---|---|
| OpenAI | OpenAI-ga mos mahalliy yo‘l (AIHUMMER_OPENAI_*) |
|
| Har qanday OpenAI-API-standart tugun nuqtasi | Xuddi shu mahalliy yo’l: AIHUMMER_OPENAI_BASE_URL |
Mahalliy modellar, OpenRouter, Geminining OpenAI-ga mos API-si va boshqalar. |
| Antropik | Veb-UI Antropik oldindan sozlangan (OpenAI-ga mos) yoki LLM shlyuzi orqali (AIHUMMER_LLM_*) |
Claude modellarini; brendli provayder tanlagichidan ulang, yoki keyni sidecar shlyuziga ushlab turishga ruxsat bering |
| Kodni / ChatGPT-obuna transporti | Obuna asosidagi transport (AIHUMMER_CODEX_*) |
O’lchovli API kaliti o’rniga ChatGPT obunasidan foydalanadi |
[!WARNING] Ishchi javoblar uchun haqiqiy model provayderini ulang. Pullik API kaliti shart emas: mahalliy OpenAI-mos model, qo‘llab-quvvatlanadigan obuna yoki o‘z API kalitingizdan foydalanishingiz mumkin.
Modelni sozlamalar bilan simlash
LLM kalitlari sozlamalar-katalog knoblar (ma’lumotlar bazasida saqlangan): ularni admin UI da (Boshqaruv → Sozlamalar) yoki bilan o’rnating aihummer settings set, da emas gateway.env. Bor ikki mustaqil sim yo‘llari — ularning o‘zgaruvchilarini aralashtirmang.
(a) Tabiiy OpenAI bilan mos keladigan yo‘l. Shlyuz OpenAI-ga mos keladigan endpointni o‘zi chaqiradi va kalitni o‘zi uzatadi:
aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini
Xuddi shu yo‘l mahalliy OpenAI-ga mos server, OpenRouter yoki Gemini’ning OpenAI-ga mos endpointi uchun ham ishlaydi — shunchaki ko‘rsatish kifoya. AIHUMMER_OPENAI_BASE_URL uning ustida.
(b) LLM-shlyuz yo‘li. AIHUMMER_LLM_GATEWAY_URL OpenAI-ga mos keladigan endpointning asosiy URL manzili — bu xuddi shu sozlama ko‘rsatilgan Konfiguratsiya. Uni gateway sidecar tomoniga yo’naltiring ta’minlovchi kalitlarini o’zi ushlab turadi (hech qanday API kaliti AiHummer orqali o’tmaydi), yoki to’g’ridan-to’g’ri provayderning OpenAI-ga mos API’sida (bu holda siz ham o‘sha provayderning kalitini taqdim qilasiz). Bu mahalliydan farq qiladi AIHUMMER_OPENAI_BASE_URL yo’lda (a):
aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5
[!WARNING] Yo‘llar birlashmaydi: juftlashish
AIHUMMER_LLM_GATEWAY_URLbilanAIHUMMER_OPENAI_API_KEYhech narsa qilmaydi — hech qanday tugma gateway orqali uzatilmaydi yo‘l; yon arava o‘z kalitlaridan foydalanadi.
Provayder sozlanmagan bo‘lsa, quyidagi xato ko‘rsatiladi: AI model provayderi hali sozlanmagan — uni «Modellar» boʻlimida qoʻshing
BYOK: har bir ijarachiga mo‘ljallangan kalitlar
Atrof-muhit o’zgaruvchilari yagona jarayon bo’ylab modelni sozlagan joyda, BYOK har bir ijarachi o‘z LLM ma’lumotlarini ta’minlasin. BYOK kalitlari admin API orqali boshqariladi:
GET /v1/admin/byok
POST /v1/admin/byok
BYOK kalitlari shifrlangan trezor ichida saqlanadi, xuddi boshqa har qanday identifikatsion ma’lumotlar singari — ular hech qachon loglarga yozilmaydi yoki model kontekstida ko‘rinmaydi. Bu mulktenantli ishlatishda har bir mijozning model hisob-kitobi va kalit materiallarini to‘liq alohida saqlash imkonini beradi.
Baham ko‘riladigan sozlamalar va BYOK orasidan tanlash
- Ishlat
AIHUMMER_OPENAI_*/AIHUMMER_LLM_*sozlamalar uchun butun gateway foydalanishi kerak bo’lgan yagona-ijtimoiy yoki standart model. - Foydalanish BYOK turli ijarachilar turli kalitlardan foydalanishi kerak bo’lganda, turli ta’minlovchilar, yoki alohida hisoblangan bo‘lishi mumkin — har bir ijarachiga mo‘ljallangan kalit standartni ustun qo‘yadi shu ijarachiga.
[!TIP] Chunki har qanday OpenAI-API-standart tugun nuqtasi qabul qilinadi, siz koʻrsatishingiz mumkin
AIHUMMER_OPENAI_BASE_URLmahalliy model serverida, OpenRouter yoki Gemini-da AiHummerdagi boshqa hech narsani o’zgartirmasdan OpenAI-ga mos endpoint.
Bu qolgan kirish modeli bilan qanday bog‘liq
BYOK kalitlari model guvohnomalari bo‘lib, shuningdek, quyidagilar bilan bir xil shifrlangan saqlashxonada yashaydi Ulanishlar va ulashilgan/shaxsiy sirlar. Farq doirada: BYOK qaysi model va kalitdan bu ijarachi foydalanayotganini javoblaydi, while shaxsiy vs umumiy javoblar doirasi ma’lum bir vosita chaqiruvi qaysi credential bilan ishlashini.
Keyingi qayerga
- Shaxsiy va umumiy ma’lumotlar
- Ulanishlar (foydalanuvchi bo‘yicha OAuth2)
- Kirish — to‘lanmagan modellar kontekstda prinsip