Furnizori BYOK și LLM

aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini

aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5

GET  /v1/admin/byok
POST /v1/admin/byok

AiHummer nu *necesită* niciodată un model plătit. Din start, rulează pe modele gratuite și locale și pe un transport Codex/ChatGPT cu abonament, iar dacă niciun model nu este conectat, timpul de execuție revine la un mock determinist astfel încât platforma pornește în continuare și poate fi testată. Când doriți un model specific, îl aduceți dumneavoastră — fie ca o configurație la nivel de proces, fie, per chiriaș, cu **Adu-ți propriul key** („adu-ți propria cheie”). ## Furnizori LLM susținuți AiHummer vorbește în mod nativ cu orice furnizor care expune un API de chat de tip OpenAI, ajunge la alți furnizori printr-un gateway LLM extern și suportă transportul prin abonamentul ChatGPT. În practică, asta acoperă: | Furnizor | Cum se conectează | Note | |---|---|---| | **OpenAI** | Cale compatibilă cu OpenAI nativ (`AIHUMMER_OPENAI_*`) | | | **Orice punct final standard OpenAI-API** | Același traseu nativ: `AIHUMMER_OPENAI_BASE_URL` | Modele locale, OpenRouter, API-ul compatibil OpenAI al Gemini, etc. | | **Antropic** | Interfață web **Antropic** preset (compatibil cu OpenAI) sau prin intermediul gateway-ului LLM (`AIHUMMER_LLM_*`) | Modele Claude; conectează-l de la selectorul de furnizor cu marcă, sau lasă gateway-ul sidecar să țină cheia | | **Transport Codex / abonament ChatGPT** | Transport bazat pe abonament (`AIHUMMER_CODEX_*`) | Folosește un abonament ChatGPT în locul unei chei API măsurate | > [!WARNING] > Niciun API de model plătit nu este vreodată obligatoriu. AiHummer funcționează cu modele gratuite/lokale și > transportul Codex/abonament ChatGPT, și **dacă niciun model nu este configurat > runtime folosește un mock determinist** — poarta încă pornește și răspunde. > BYOK și cheile plătite sunt complet opționale. ## Conectarea unui model cu setări Cheile LLM sunt **catalog-de-setări** mânere (stocate în baza de date): setați-le în interfața de administrare (Management → Setări) sau cu `aihummer settings set`, nu în `gateway.env`. Există **două căi de cablare independente** — nu amestecați variabilele lor. **(a) Calea nativă compatibilă cu OpenAI.** Gateway-ul apelează el însuși un endpoint compatibil OpenAI și transmite cheia el însuși: ```bash aihummer settings set AIHUMMER_OPENAI_API_KEY sk-... aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1 aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini ``` Același traseu funcționează pentru un server local compatibil cu OpenAI, OpenRouter sau endpoint-ul compatibil OpenAI al lui Gemini — doar indică-l `AIHUMMER_OPENAI_BASE_URL` la asta. **(b) Calea de acces LLM.** `AIHUMMER_LLM_GATEWAY_URL` este URL-ul de bază al unui punct final compatibil cu OpenAI — aceasta este aceeași setare afișată în [Configurare](/ro/v1.0/getting-started/configuration). Îndreaptă-l către un sidecar de gateway care **ține cheile furnizorului el însuși** (nici o cheie API nu trece prin AiHummer), sau direct la API-ul compatibil OpenAI al unui furnizor (în acest caz furnizați și cheia acelui furnizor). Este distinct de nativ `AIHUMMER_OPENAI_BASE_URL` în cale (a): ```bash aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090 aihummer settings set AIHUMMER_LLM_PROVIDER anthropic aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5 ``` > [!WARNING] > Căile nu se combină: împerechere `AIHUMMER_LLM_GATEWAY_URL` cu > `AIHUMMER_OPENAI_API_KEY` nu face nimic — nicio tastă nu este transmisă prin gateway > cale; sidecar-ul folosește propriile sale chei. Dacă niciunul dintre căi nu este configurat, se utilizează mockul determinist. ## BYOK: chei per-tenant Unde variabilele de mediu configurează un model unic la nivel de proces, **Adu-ți propriul key** să furnizeze fiecare chiriaș propriile sale acreditări LLM. Cheile BYOK sunt gestionate din API-ul de administrare: ```http GET /v1/admin/byok POST /v1/admin/byok ``` Cheile BYOK sunt stocate în seiful criptat, la fel ca orice altă acreditare — ele nu sunt niciodată scrise în jurnale sau afișate în contextul modelului. Aceasta este ceea ce permite unei implementări multichiriaș să păstreze separat facturarea modelului și materialul cheilor fiecărui client. ## Alegerea între setările partajate și BYOK - Folosește **`AIHUMMER_OPENAI_*` / `AIHUMMER_LLM_*` setări** pentru un model cu un singur chiriaș sau implicit pe care întregul gateway ar trebui să îl folosească. - Folosește **Adu-ți propriul key** când diferiți chiriași trebuie să folosească diferite chei, diferite furnizori, sau să fie facturat separat — cheia per-chiriaș suprascrie cea implicită pentru acel chiriaș. > [!TIP] > Deoarece este acceptat orice endpoint standard OpenAI-API, poți indica > `AIHUMMER_OPENAI_BASE_URL` la un server local de modele, OpenRouter sau un Gemini > Punct final compatibil cu OpenAI fără a schimba altceva în AiHummer. ## Cum se raportează acest lucru la restul modelului de acces Cheile BYOK sunt credențiale ale modelului și se află în aceeași seif criptat ca [Conexiuni](/ro/v1.0/access/connections-oauth2) și secrete împărtășite/personale. Diferența constă în amploare: BYOK răspunde *ce model și ce cheie folosește acest chiriaș*, în timp ce [personal vs partajat](/ro/v1.0/access/personal-vs-shared) răspunsuri de domeniu *cu ale căror acreditări rulează un apel al unui anumit instrument*. ## Unde următor? - [Date de autentificare personale vs partajate](/ro/v1.0/access/personal-vs-shared) - [Conexiuni (OAuth2 per utilizator)](/ro/v1.0/access/connections-oauth2) - [Introducere](/ro/v1.0/getting-started/introduction) — modelele fără plată principiu în context.