BYOK- und LLM-Anbieter
Verbinden Sie einen echten Modellanbieter, um nutzbare Antworten zu erhalten. Ein kostenpflichtiger API-Schlüssel ist nicht erforderlich: Nutzen Sie ein lokales OpenAI-kompatibles Modell, ein unterstütztes Abonnement oder Ihren eigenen API-Schlüssel.
Wenn Sie ein bestimmtes Modell wünschen, bringen Sie es selbst mit — entweder als konfigurationsweite Einstellung oder pro Mandant, mit Bring Your Own Key (bringen Sie Ihren eigenen Schlüssel)
Unterstützte LLM-Anbieter
AiHummer spricht nativ mit jedem Anbieter, der eine OpenAI-ähnliche Chat-API bereitstellt, erreicht andere Anbieter über ein externes LLM-Gateway und unterstützt den ChatGPT-Abonnement-Transport. In der Praxis umfasst das:
| Anbieter | Wie es verbindet | Notizen |
|---|---|---|
| OpenAI | Native OpenAI-kompatibler Pfad (AIHUMMER_OPENAI_*) |
|
| Jeder OpenAI-API-Standard-Endpunkt | Der gleiche native Pfad: AIHUMMER_OPENAI_BASE_URL |
Lokale Modelle, OpenRouter, Geminis OpenAI-kompatible API, usw. |
| Anthropisch | Web-Benutzeroberfläche Anthropisch Voreinstellung (OpenAI-kompatibel) oder über das LLM-Gateway (AIHUMMER_LLM_*) |
Claude-Modelle; verbinden Sie es über den Markenanbieter-Auswähler oder lassen Sie das Sidecar-Gateway den Schlüssel halten |
| Codex / ChatGPT-Abonnement-Transport | Abonnementbasierter Transport (AIHUMMER_CODEX_*) |
Verwendet ein ChatGPT-Abonnement anstelle eines gemessenen API-Schlüssels |
[!WARNING] Verbinden Sie einen echten Modellanbieter, um nutzbare Antworten zu erhalten. Ein kostenpflichtiger API-Schlüssel ist nicht erforderlich: Nutzen Sie ein lokales OpenAI-kompatibles Modell, ein unterstütztes Abonnement oder Ihren eigenen API-Schlüssel.
Ein Modell mit Einstellungen verdrahten
Die LLM-Schlüssel sind einstellungen-katalog Regler (in der Datenbank gespeichert): Stellen Sie sie in der Admin-Benutzeroberfläche ein (Verwaltung → Einstellungen) oder mit aihummer settings set, nicht in gateway.env. Es gibt zwei unabhängige Verkabelungswege — mischen Sie ihre Variablen nicht.
(a) Der native OpenAI-kompatible Pfad. Das Gateway ruft selbst einen OpenAI-kompatiblen Endpunkt auf und übergibt den Schlüssel selbst:
aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini
Der gleiche Pfad funktioniert für einen lokalen OpenAI-kompatiblen Server, OpenRouter oder Geminis OpenAI-kompatiblen Endpunkt — einfach zeigen AIHUMMER_OPENAI_BASE_URL daran.
(b) Der LLM-Gateway-Pfad. AIHUMMER_LLM_GATEWAY_URL ist die Basis-URL eines OpenAI-kompatiblen Endpunkts – dies ist dieselbe Einstellung, die in Konfiguration. Richten Sie es auf ein Gateway-Sidecar, das hält die Anbieter-Schlüssel selbst (kein API-Schlüssel wird über AiHummer weitergegeben) oder direkt bei der OpenAI-kompatiblen API eines Anbieters (in diesem Fall geben Sie auch den Schlüssel dieses Anbieters an). Es unterscheidet sich von der nativen AIHUMMER_OPENAI_BASE_URL im Pfad (a):
aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5
[!WARNING] Die Wege verbinden sich nicht: Paarung
AIHUMMER_LLM_GATEWAY_URLmitAIHUMMER_OPENAI_API_KEYtut nichts — keine Taste wird an das Gateway weitergeleitet Pfad; das Seitenwagen verwendet seine eigenen Schlüssel.
Wenn kein Anbieter eingerichtet ist, erscheint die Fehlermeldung: Es ist noch kein KI-Modellanbieter konfiguriert – fügen Sie einen im Abschnitt „Modelle“ hinzu
BYOK: pro-Mandanten-Schlüssel
Wo die Umgebungsvariablen ein einzelnes prozessweites Modell konfigurieren, Bring Your Own Key Jeder Mieter soll seine eigenen LLM-Zugangsdaten bereitstellen. BYOK-Schlüssel werden über die Admin-API verwaltet:
GET /v1/admin/byok
POST /v1/admin/byok
BYOK-Schlüssel werden im verschlüsselten Tresor gespeichert, genau wie jede andere Anmeldeinformation – sie werden niemals in Protokolle geschrieben oder im Modellkontext angezeigt. Dies ist es, was es einer mandantenfähigen Bereitstellung ermöglicht, die Abrechnung und Schlüsselinformationen jedes Kunden vollständig getrennt zu halten.
Die Wahl zwischen gemeinsam genutzten Einstellungen und BYOK
- Verwenden Sie die
AIHUMMER_OPENAI_*/AIHUMMER_LLM_*Einstellungen für ein Einzelmandanten- oder Standardmodell, das das gesamte Gateway verwenden sollte. - Verwenden Bring Your Own Key wenn verschiedene Mieter unterschiedliche Schlüssel verwenden müssen, unterschiedliche Anbieter oder separat abgerechnet werden – der pro-Mieter-Schlüssel überschreibt den Standard für diesen Mieter.
[!TIP] Da jeder OpenAI-API-Standard-Endpunkt akzeptiert wird, können Sie zeigen
AIHUMMER_OPENAI_BASE_URLbei einem lokalen Modellserver, OpenRouter oder einem Gemini OpenAI-kompatibler Endpunkt, ohne sonst etwas in AiHummer zu ändern.
Wie dies sich auf den Rest des Zugriffsmodells bezieht
BYOK-Schlüssel sind Modellanmeldeinformationen und befinden sich im selben verschlüsselten Tresor wie Verbindungen und geteilte/persönliche Geheimnisse. Der Unterschied liegt im Umfang: BYOK beantwortet welches Modell und welchen Schlüssel dieser Mandant verwendet, während der persönlich vs. gemeinsam Antworten des Umfangs deren Anmeldeinformationen ein bestimmter Toolaufruf verwendet.
Wohin als Nächstes
- Persönliche vs. geteilte Anmeldeinformationen
- Verbindungen (pro Benutzer OAuth2)
- Einführung — die nicht bezahlten Modelle Prinzip im Kontext.