Dostawcy BYOK i LLM
AiHummer nigdy nie wymaga płatnego modelu. Od razu działa na darmowych i lokalnych modelach oraz przy użyciu transportu z subskrypcją Codex/ChatGPT, a jeśli żaden model nie jest w ogóle podłączony, środowisko uruchomieniowe przechodzi w tryb deterministycznej symulacji, dzięki czemu platforma nadal się uruchamia i można ją testować. Kiedy chcesz użyć konkretnego modelu, przynosisz go samodzielnie — albo jako konfigurację na poziomie całego procesu, albo, dla każdego najemcy, z BYOK (przynieś własny klucz)
Obsługiwani dostawcy LLM
AiHummer komunikuje się natywnie z każdym dostawcą, który udostępnia API czatu w stylu OpenAI, łączy się z innymi dostawcami poprzez zewnętrzną bramę LLM i obsługuje transport subskrypcji ChatGPT. W praktyce obejmuje to:
| Dostawca | Jak to łączy | Notatki |
|---|---|---|
| OpenAI | Natywna ścieżka zgodna z OpenAI (AIHUMMER_OPENAI_*) |
|
| Każdy standardowy punkt końcowy OpenAI-API | Ta sama natywna ścieżka: AIHUMMER_OPENAI_BASE_URL |
Modele lokalne, OpenRouter, API zgodne z OpenAI Gemini itd. |
| Antropiczny | Interfejs WWW Antropiczny preset (kompatybilny z OpenAI) lub przez bramkę LLM (AIHUMMER_LLM_*) |
Modele Claude; podłącz je z selektora dostawcy z marką albo pozwól, by brama sidecar przechowywała klucz |
| Transport subskrypcji Codex / ChatGPT | Transport oparty na subskrypcji (AIHUMMER_CODEX_*) |
Używa subskrypcji ChatGPT zamiast opłacanej według użycia klucza API |
[!WARNING] Żaden płatny interfejs API modelu nigdy nie jest obowiązkowy. AiHummer działa na darmowych/lokalnych modelach i transport Codex/ChatGPT-subskrypcji, i jeśli żaden model nie jest skonfigurowany, czas wykonywania korzysta z deterministycznego mocka — bramka nadal uruchamia się i odpowiada. BYOK i płatne klucze są całkowicie opcjonalne.
Okablowanie modelu z ustawieniami
Klucze LLM są ustawienia-katalog pokrętła (przechowywane w bazie danych): ustaw je w interfejsie administracyjnym (Zarządzanie → Ustawienia) lub za pomocą aihummer settings set, nie w gateway.env. Są dwie niezależne ścieżki okablowania — nie mieszaj ich zmiennych.
(a) Natywna ścieżka zgodna z OpenAI. Bramka sama wywołuje punkt końcowy zgodny z OpenAI i sama przekazuje klucz:
aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini
Ta sama ścieżka działa dla lokalnego serwera zgodnego z OpenAI, OpenRouter lub punktu końcowego zgodnego z OpenAI Gemini — wystarczy wskazać AIHUMMER_OPENAI_BASE_URL przy tym.
(b) Ścieżka bramki LLM. AIHUMMER_LLM_GATEWAY_URL jest podstawowym adresem URL punktu końcowego zgodnego z OpenAI — jest to ta sama ustawienie pokazane w Konfiguracja. Wskaż go na sidecara bramki, który sam przechowuje klucze dostawcy (żaden klucz API nie przechodzi przez AiHummer), lub bezpośrednio u dostawcy zgodnego z API OpenAI (w takim przypadku podajesz również klucz tego dostawcy). Jest to odrębne od natywnego AIHUMMER_OPENAI_BASE_URL w ścieżce (a):
aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5
[!WARNING] Ścieżki się nie łączą: parowanie
AIHUMMER_LLM_GATEWAY_URLzAIHUMMER_OPENAI_API_KEYnie robi nic — żaden klawisz nie jest przekazywany na bramkę ścieżka; sidecar używa własnych kluczy.
Jeśli żaden z kierunków nie jest skonfigurowany, używany jest deterministyczny mock.
BYOK: klucze przypisane do najemcy
Gdzie zmienne środowiskowe konfigurują jeden model obejmujący cały proces, BYOK niech każdy najemca dostarczy własne dane uwierzytelniające LLM. Klucze BYOK są zarządzane z poziomu API administratora:
GET /v1/admin/byok
POST /v1/admin/byok
Klucze BYOK są przechowywane w zaszyfrowanym sejfie, tak jak każde inne poświadczenie — nigdy nie są zapisywane w logach ani ujawniane w kontekście modelu. To pozwala wdrożeniu wielodostępowemu na pełne oddzielenie rozliczeń modelu i materiału klucza każdego klienta.
Wybór między ustawieniami współdzielonymi a BYOK
- Użyj
AIHUMMER_OPENAI_*/AIHUMMER_LLM_*ustawienia dla model jednorodzinny lub domyślny, którego powinna używać cała brama. - Użyj BYOK gdy różni najemcy muszą używać różnych kluczy, różni dostawcy, lub być rozliczani osobno — klucz przypisany do najemcy zastępuje domyślny dla tego najemcy.
[!TIP] Ponieważ akceptowany jest każdy punkt końcowy zgodny ze standardem OpenAI API, możesz wskazać
AIHUMMER_OPENAI_BASE_URLna lokalnym serwerze modelu, OpenRouter lub Gemini Punkt końcowy zgodny z OpenAI bez zmieniania czegokolwiek innego w AiHummer.
Jak to się odnosi do reszty modelu dostępu
Klucze BYOK są poświadczeniami modelu i znajdują się w tym samym zaszyfrowanym sejfie co Połączenia oraz tajemnice udostępniane/osobiste. Różnica polega na zakresie: BYOK odpowiada który model i klucz używa ten najemca, podczas gdy osobisty vs wspólny zakres odpowiedzi których poświadczeń używa wywołanie danego narzędzia.
Dokąd dalej
- Osobiste vs wspólne dane uwierzytelniające
- Połączenia (OAuth2 dla użytkownika)
- Wprowadzenie — modele bezpłatne zasada w kontekście.