AiHummer
Polski▾
Zaloguj sięKonto
v1.6.x▾
{ }Swagger

Dostawcy BYOK i LLM

v1.6.x · zaktualizowany 2026-11-09

Podłącz rzeczywistego dostawcę modeli, aby otrzymywać użyteczne odpowiedzi. Płatny klucz API nie jest obowiązkowy: możesz użyć lokalnego modelu zgodnego z OpenAI, obsługiwanej subskrypcji albo własnego klucza API.

Kiedy chcesz użyć konkretnego modelu, przynosisz go samodzielnie — albo jako konfigurację na poziomie całego procesu, albo, dla każdego najemcy, z BYOK (przynieś własny klucz)

Obsługiwani dostawcy LLM

AiHummer komunikuje się natywnie z każdym dostawcą, który udostępnia API czatu w stylu OpenAI, łączy się z innymi dostawcami poprzez zewnętrzną bramę LLM i obsługuje transport subskrypcji ChatGPT. W praktyce obejmuje to:

Dostawca Jak to łączy Notatki
OpenAI Natywna ścieżka zgodna z OpenAI (AIHUMMER_OPENAI_*)
Każdy standardowy punkt końcowy OpenAI-API Ta sama natywna ścieżka: AIHUMMER_OPENAI_BASE_URL Modele lokalne, OpenRouter, API zgodne z OpenAI Gemini itd.
Antropiczny Interfejs WWW Antropiczny preset (kompatybilny z OpenAI) lub przez bramkę LLM (AIHUMMER_LLM_*) Modele Claude; podłącz je z selektora dostawcy z marką albo pozwól, by brama sidecar przechowywała klucz
Transport subskrypcji Codex / ChatGPT Transport oparty na subskrypcji (AIHUMMER_CODEX_*) Używa subskrypcji ChatGPT zamiast opłacanej według użycia klucza API

[!WARNING] Podłącz rzeczywistego dostawcę modeli, aby otrzymywać użyteczne odpowiedzi. Płatny klucz API nie jest obowiązkowy: możesz użyć lokalnego modelu zgodnego z OpenAI, obsługiwanej subskrypcji albo własnego klucza API.

Okablowanie modelu z ustawieniami

Klucze LLM są ustawienia-katalog pokrętła (przechowywane w bazie danych): ustaw je w interfejsie administracyjnym (Zarządzanie → Ustawienia) lub za pomocą aihummer settings set, nie w gateway.env. Są dwie niezależne ścieżki okablowania — nie mieszaj ich zmiennych.

(a) Natywna ścieżka zgodna z OpenAI. Bramka sama wywołuje punkt końcowy zgodny z OpenAI i sama przekazuje klucz:

aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini

Ta sama ścieżka działa dla lokalnego serwera zgodnego z OpenAI, OpenRouter lub punktu końcowego zgodnego z OpenAI Gemini — wystarczy wskazać AIHUMMER_OPENAI_BASE_URL przy tym.

(b) Ścieżka bramki LLM. AIHUMMER_LLM_GATEWAY_URL jest podstawowym adresem URL punktu końcowego zgodnego z OpenAI — jest to ta sama ustawienie pokazane w Konfiguracja. Wskaż go na sidecara bramki, który sam przechowuje klucze dostawcy (żaden klucz API nie przechodzi przez AiHummer), lub bezpośrednio u dostawcy zgodnego z API OpenAI (w takim przypadku podajesz również klucz tego dostawcy). Jest to odrębne od natywnego AIHUMMER_OPENAI_BASE_URL w ścieżce (a):

aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5

[!WARNING] Ścieżki się nie łączą: parowanie AIHUMMER_LLM_GATEWAY_URL z AIHUMMER_OPENAI_API_KEY nie robi nic — żaden klawisz nie jest przekazywany na bramkę ścieżka; sidecar używa własnych kluczy.

Jeśli nie skonfigurowano dostawcy, pojawi się błąd: Żaden dostawca modelu AI nie jest jeszcze skonfigurowany — dodaj go w sekcji Modele

BYOK: klucze przypisane do najemcy

Gdzie zmienne środowiskowe konfigurują jeden model obejmujący cały proces, BYOK niech każdy najemca dostarczy własne dane uwierzytelniające LLM. Klucze BYOK są zarządzane z poziomu API administratora:

GET  /v1/admin/byok
POST /v1/admin/byok

Klucze BYOK są przechowywane w zaszyfrowanym sejfie, tak jak każde inne poświadczenie — nigdy nie są zapisywane w logach ani ujawniane w kontekście modelu. To pozwala wdrożeniu wielodostępowemu na pełne oddzielenie rozliczeń modelu i materiału klucza każdego klienta.

Wybór między ustawieniami współdzielonymi a BYOK

  • Użyj AIHUMMER_OPENAI_* / AIHUMMER_LLM_* ustawienia dla model jednorodzinny lub domyślny, którego powinna używać cała brama.
  • Użyj BYOK gdy różni najemcy muszą używać różnych kluczy, różni dostawcy, lub być rozliczani osobno — klucz przypisany do najemcy zastępuje domyślny dla tego najemcy.

[!TIP] Ponieważ akceptowany jest każdy punkt końcowy zgodny ze standardem OpenAI API, możesz wskazać AIHUMMER_OPENAI_BASE_URL na lokalnym serwerze modelu, OpenRouter lub Gemini Punkt końcowy zgodny z OpenAI bez zmieniania czegokolwiek innego w AiHummer.

Jak to się odnosi do reszty modelu dostępu

Klucze BYOK są poświadczeniami modelu i znajdują się w tym samym zaszyfrowanym sejfie co Połączenia oraz tajemnice udostępniane/osobiste. Różnica polega na zakresie: BYOK odpowiada który model i klucz używa ten najemca, podczas gdy osobisty vs wspólny zakres odpowiedzi których poświadczeń używa wywołanie danego narzędzia.

Dokąd dalej