AiHummer
Español▾
Iniciar sesiónCuenta
v1.2.x▾
v1.2.xstablev1.1.xstablev1.0.xstable
{ }Swagger
Acceso e integraciones/Proveedores de BYOK y LLM

Proveedores de BYOK y LLM

v1.2.x · actualizada 2026-07-05

AiHummer nunca requiere un modelo de pago. Desde el principio funciona con modelos gratuitos y locales y un transporte de suscripción a Codex/ChatGPT, y si no se conecta ningún modelo, el tiempo de ejecución recurre a un simulador determinista para que la plataforma aún se inicie y sea comprobable. Cuando realmente deseas un modelo específico, lo traes tú mismo, ya sea como una configuración a nivel de proceso o, por inquilino, con Trae tu propia clave (trae tu propia clave)

Proveedores de LLM compatibles

AiHummer se comunica de forma nativa con cualquier proveedor que exponga una API de chat al estilo OpenAI, llega a otros proveedores a través de una puerta de enlace externa de LLM y admite el transporte de suscripción de ChatGPT. En la práctica, eso cubre:

proveedora Cómo se conecta Notas
OpenAI Ruta nativa compatible con OpenAI (AIHUMMER_OPENAI_*)
Cualquier endpoint estándar de la API de OpenAI La misma ruta nativa: AIHUMMER_OPENAI_BASE_URL Modelos locales, OpenRouter, la API compatible con OpenAI de Gemini, etc.
Antropogénico Interfaz web Antropogénico preajuste (compatible con OpenAI) o a través de la puerta de enlace LLM (AIHUMMER_LLM_*) Modelos Claude; conéctalo desde el selector de proveedor con marca, o deja que la pasarela sidecar mantenga la clave
Transporte de suscripción Codex / ChatGPT Transporte basado en suscripción (AIHUMMER_CODEX_*) Usa una suscripción a ChatGPT en lugar de una clave de API medida

[!WARNING] Ninguna API de modelo de pago es obligatoria. AiHummer funciona con modelos gratuitos/locales y el transporte de suscripción Codex/ChatGPT, y si no se configura ningún modelo el el tiempo de ejecución utiliza un mock determinista — la puerta de enlace todavía se inicia y responde. BYOK y las claves de pago son completamente opcionales.

Cableado de un modelo con configuraciones

Las llaves LLM son catálogo-de-configuración perillas (almacenadas en la base de datos): configúralas en la interfaz de administración (Gestión → Configuración) o con aihummer settings set, no en gateway.env. Hay dos caminos de cableado independientes — no mezcles sus variables.

(a) La ruta nativa compatible con OpenAI. La puerta de enlace llama a un endpoint compatible con OpenAI por sí misma y pasa la clave por sí misma:

aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini

La misma ruta funciona para un servidor local compatible con OpenAI, OpenRouter o el endpoint compatible con OpenAI de Gemini, solo apunta AIHUMMER_OPENAI_BASE_URL en ello.

(b) El camino de la puerta de enlace LLM. AIHUMMER_LLM_GATEWAY_URL es la URL base de un endpoint compatible con OpenAI — esta es la misma configuración que se muestra en Configuración. Apúntalo a un sidecar de puerta de enlace que mantiene las llaves del proveedor él mismo (no se pasa ninguna clave de API a través de AiHummer), o directamente en la API compatible con OpenAI de un proveedor (en cuyo caso también se proporciona la clave de ese proveedor). Es distinto del nativo AIHUMMER_OPENAI_BASE_URL en la ruta (a):

aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5

[!WARNING] Los caminos no se combinan: emparejamiento AIHUMMER_LLM_GATEWAY_URL con AIHUMMER_OPENAI_API_KEY no hace nada — ninguna tecla se envía a través del gateway ruta; el sidecar usa sus propias llaves.

Si ninguno de los caminos está configurado, se utiliza el simulacro determinista.

BYOK: claves por inquilino

Donde las variables de entorno configuran un modelo único a nivel de proceso, Trae tu propia clave cada inquilino debe proporcionar sus propias credenciales LLM. Las claves BYOK se gestionan desde la API de administración:

GET  /v1/admin/byok
POST /v1/admin/byok

Las claves BYOK se almacenan en la bóveda cifrada, al igual que cualquier otra credencial: nunca se escriben en los registros ni se muestran en el contexto del modelo. Esto es lo que permite que una implementación multinúcleo mantenga la facturación del modelo y el material de claves de cada cliente completamente separados.

Elegir entre configuraciones compartidas y BYOK

  • Usa el AIHUMMER_OPENAI_* / AIHUMMER_LLM_* configuración para un modelo de inquilino único o predeterminado que todo el gateway debería usar.
  • Usar Trae tu propia clave cuando diferentes inquilinos deben usar diferentes llaves, diferentes proveedores, o facturarse por separado — la clave por inquilino anula la predeterminada para ese inquilino.

[!TIP] Porque se acepta cualquier punto de enlace estándar de OpenAI-API, puedes apuntar AIHUMMER_OPENAI_BASE_URL en un servidor de modelos local, OpenRouter o un Gemini Punto de acceso compatible con OpenAI sin cambiar nada más en AiHummer.

Cómo se relaciona esto con el resto del modelo de acceso

Las claves BYOK son credenciales del modelo y se encuentran en el mismo almacén cifrado que Conexiones y secretos compartidos/personales. La diferencia es el alcance: BYOK responde qué modelo y clave usa este inquilino, mientras que el personal vs compartido respuestas de alcance cuyas credenciales ejecuta una llamada de una herramienta dada.

¿A dónde vamos ahora?