AiHummer
Español▾
Iniciar sesiónCuenta
v1.6.x▾
{ }Swagger

Proveedores de BYOK y LLM

v1.6.x · actualizada 2026-11-09

Conecte un proveedor real de modelos para obtener respuestas útiles. No se necesita una clave API de pago: puede usar un modelo local compatible con OpenAI, una suscripción admitida o su propia clave API.

Cuando realmente deseas un modelo específico, lo traes tú mismo, ya sea como una configuración a nivel de proceso o, por inquilino, con Trae tu propia clave (trae tu propia clave)

Proveedores de LLM compatibles

AiHummer se comunica de forma nativa con cualquier proveedor que exponga una API de chat al estilo OpenAI, llega a otros proveedores a través de una puerta de enlace externa de LLM y admite el transporte de suscripción de ChatGPT. En la práctica, eso cubre:

proveedora Cómo se conecta Notas
OpenAI Ruta nativa compatible con OpenAI (AIHUMMER_OPENAI_*)
Cualquier endpoint estándar de la API de OpenAI La misma ruta nativa: AIHUMMER_OPENAI_BASE_URL Modelos locales, OpenRouter, la API compatible con OpenAI de Gemini, etc.
Antropogénico Interfaz web Antropogénico preajuste (compatible con OpenAI) o a través de la puerta de enlace LLM (AIHUMMER_LLM_*) Modelos Claude; conéctalo desde el selector de proveedor con marca, o deja que la pasarela sidecar mantenga la clave
Transporte de suscripción Codex / ChatGPT Transporte basado en suscripción (AIHUMMER_CODEX_*) Usa una suscripción a ChatGPT en lugar de una clave de API medida

[!WARNING] Conecte un proveedor real de modelos para obtener respuestas útiles. No se necesita una clave API de pago: puede usar un modelo local compatible con OpenAI, una suscripción admitida o su propia clave API.

Cableado de un modelo con configuraciones

Las llaves LLM son catálogo-de-configuración perillas (almacenadas en la base de datos): configúralas en la interfaz de administración (Gestión → Configuración) o con aihummer settings set, no en gateway.env. Hay dos caminos de cableado independientes — no mezcles sus variables.

(a) La ruta nativa compatible con OpenAI. La puerta de enlace llama a un endpoint compatible con OpenAI por sí misma y pasa la clave por sí misma:

aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini

La misma ruta funciona para un servidor local compatible con OpenAI, OpenRouter o el endpoint compatible con OpenAI de Gemini, solo apunta AIHUMMER_OPENAI_BASE_URL en ello.

(b) El camino de la puerta de enlace LLM. AIHUMMER_LLM_GATEWAY_URL es la URL base de un endpoint compatible con OpenAI — esta es la misma configuración que se muestra en Configuración. Apúntalo a un sidecar de puerta de enlace que mantiene las llaves del proveedor él mismo (no se pasa ninguna clave de API a través de AiHummer), o directamente en la API compatible con OpenAI de un proveedor (en cuyo caso también se proporciona la clave de ese proveedor). Es distinto del nativo AIHUMMER_OPENAI_BASE_URL en la ruta (a):

aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5

[!WARNING] Los caminos no se combinan: emparejamiento AIHUMMER_LLM_GATEWAY_URL con AIHUMMER_OPENAI_API_KEY no hace nada — ninguna tecla se envía a través del gateway ruta; el sidecar usa sus propias llaves.

Si no hay un proveedor configurado, aparece el error: Aún no hay ningún proveedor de modelo de IA configurado; agregue uno en la sección Modelos

BYOK: claves por inquilino

Donde las variables de entorno configuran un modelo único a nivel de proceso, Trae tu propia clave cada inquilino debe proporcionar sus propias credenciales LLM. Las claves BYOK se gestionan desde la API de administración:

GET  /v1/admin/byok
POST /v1/admin/byok

Las claves BYOK se almacenan en la bóveda cifrada, al igual que cualquier otra credencial: nunca se escriben en los registros ni se muestran en el contexto del modelo. Esto es lo que permite que una implementación multinúcleo mantenga la facturación del modelo y el material de claves de cada cliente completamente separados.

Elegir entre configuraciones compartidas y BYOK

  • Usa el AIHUMMER_OPENAI_* / AIHUMMER_LLM_* configuración para un modelo de inquilino único o predeterminado que todo el gateway debería usar.
  • Usar Trae tu propia clave cuando diferentes inquilinos deben usar diferentes llaves, diferentes proveedores, o facturarse por separado — la clave por inquilino anula la predeterminada para ese inquilino.

[!TIP] Porque se acepta cualquier punto de enlace estándar de OpenAI-API, puedes apuntar AIHUMMER_OPENAI_BASE_URL en un servidor de modelos local, OpenRouter o un Gemini Punto de acceso compatible con OpenAI sin cambiar nada más en AiHummer.

Cómo se relaciona esto con el resto del modelo de acceso

Las claves BYOK son credenciales del modelo y se encuentran en el mismo almacén cifrado que Conexiones y secretos compartidos/personales. La diferencia es el alcance: BYOK responde qué modelo y clave usa este inquilino, mientras que el personal vs compartido respuestas de alcance cuyas credenciales ejecuta una llamada de una herramienta dada.

¿A dónde vamos ahora?