AiHummer
Polski
Zaloguj sięKonto
v1.1.x
{ }Swagger

Dostawcy BYOK i LLM

v1.1.x · zaktualizowany 2026-07-05

AiHummer nigdy nie wymaga płatnego modelu. Od razu działa na darmowych i lokalnych modelach oraz przy użyciu transportu z subskrypcją Codex/ChatGPT, a jeśli żaden model nie jest w ogóle podłączony, środowisko uruchomieniowe przechodzi w tryb deterministycznej symulacji, dzięki czemu platforma nadal się uruchamia i można ją testować. Kiedy chcesz użyć konkretnego modelu, przynosisz go samodzielnie — albo jako konfigurację na poziomie całego procesu, albo, dla każdego najemcy, z BYOK (przynieś własny klucz)

Obsługiwani dostawcy LLM

AiHummer komunikuje się natywnie z każdym dostawcą, który udostępnia API czatu w stylu OpenAI, łączy się z innymi dostawcami poprzez zewnętrzną bramę LLM i obsługuje transport subskrypcji ChatGPT. W praktyce obejmuje to:

Dostawca Jak to łączy Notatki
OpenAI Natywna ścieżka zgodna z OpenAI (AIHUMMER_OPENAI_*)
Każdy standardowy punkt końcowy OpenAI-API Ta sama natywna ścieżka: AIHUMMER_OPENAI_BASE_URL Modele lokalne, OpenRouter, API zgodne z OpenAI Gemini itd.
Antropiczny Interfejs WWW Antropiczny preset (kompatybilny z OpenAI) lub przez bramkę LLM (AIHUMMER_LLM_*) Modele Claude; podłącz je z selektora dostawcy z marką albo pozwól, by brama sidecar przechowywała klucz
Transport subskrypcji Codex / ChatGPT Transport oparty na subskrypcji (AIHUMMER_CODEX_*) Używa subskrypcji ChatGPT zamiast opłacanej według użycia klucza API

[!WARNING] Żaden płatny interfejs API modelu nigdy nie jest obowiązkowy. AiHummer działa na darmowych/lokalnych modelach i transport Codex/ChatGPT-subskrypcji, i jeśli żaden model nie jest skonfigurowany, czas wykonywania korzysta z deterministycznego mocka — bramka nadal uruchamia się i odpowiada. BYOK i płatne klucze są całkowicie opcjonalne.

Okablowanie modelu z ustawieniami

Klucze LLM są ustawienia-katalog pokrętła (przechowywane w bazie danych): ustaw je w interfejsie administracyjnym (Zarządzanie → Ustawienia) lub za pomocą aihummer settings set, nie w gateway.env. Są dwie niezależne ścieżki okablowania — nie mieszaj ich zmiennych.

(a) Natywna ścieżka zgodna z OpenAI. Bramka sama wywołuje punkt końcowy zgodny z OpenAI i sama przekazuje klucz:

aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini

Ta sama ścieżka działa dla lokalnego serwera zgodnego z OpenAI, OpenRouter lub punktu końcowego zgodnego z OpenAI Gemini — wystarczy wskazać AIHUMMER_OPENAI_BASE_URL przy tym.

(b) Ścieżka bramki LLM. AIHUMMER_LLM_GATEWAY_URL jest podstawowym adresem URL punktu końcowego zgodnego z OpenAI — jest to ta sama ustawienie pokazane w Konfiguracja. Wskaż go na sidecara bramki, który sam przechowuje klucze dostawcy (żaden klucz API nie przechodzi przez AiHummer), lub bezpośrednio u dostawcy zgodnego z API OpenAI (w takim przypadku podajesz również klucz tego dostawcy). Jest to odrębne od natywnego AIHUMMER_OPENAI_BASE_URL w ścieżce (a):

aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5

[!WARNING] Ścieżki się nie łączą: parowanie AIHUMMER_LLM_GATEWAY_URL z AIHUMMER_OPENAI_API_KEY nie robi nic — żaden klawisz nie jest przekazywany na bramkę ścieżka; sidecar używa własnych kluczy.

Jeśli żaden z kierunków nie jest skonfigurowany, używany jest deterministyczny mock.

BYOK: klucze przypisane do najemcy

Gdzie zmienne środowiskowe konfigurują jeden model obejmujący cały proces, BYOK niech każdy najemca dostarczy własne dane uwierzytelniające LLM. Klucze BYOK są zarządzane z poziomu API administratora:

GET  /v1/admin/byok
POST /v1/admin/byok

Klucze BYOK są przechowywane w zaszyfrowanym sejfie, tak jak każde inne poświadczenie — nigdy nie są zapisywane w logach ani ujawniane w kontekście modelu. To pozwala wdrożeniu wielodostępowemu na pełne oddzielenie rozliczeń modelu i materiału klucza każdego klienta.

Wybór między ustawieniami współdzielonymi a BYOK

  • Użyj AIHUMMER_OPENAI_* / AIHUMMER_LLM_* ustawienia dla model jednorodzinny lub domyślny, którego powinna używać cała brama.
  • Użyj BYOK gdy różni najemcy muszą używać różnych kluczy, różni dostawcy, lub być rozliczani osobno — klucz przypisany do najemcy zastępuje domyślny dla tego najemcy.

[!TIP] Ponieważ akceptowany jest każdy punkt końcowy zgodny ze standardem OpenAI API, możesz wskazać AIHUMMER_OPENAI_BASE_URL na lokalnym serwerze modelu, OpenRouter lub Gemini Punkt końcowy zgodny z OpenAI bez zmieniania czegokolwiek innego w AiHummer.

Jak to się odnosi do reszty modelu dostępu

Klucze BYOK są poświadczeniami modelu i znajdują się w tym samym zaszyfrowanym sejfie co Połączenia oraz tajemnice udostępniane/osobiste. Różnica polega na zakresie: BYOK odpowiada który model i klucz używa ten najemca, podczas gdy osobisty vs wspólny zakres odpowiedzi których poświadczeń używa wywołanie danego narzędzia.

Dokąd dalej