Sidecar-ներ
Որոշ հնարավորություններ — խոսք, վիդեո, վեբ որոնում, headless browser — gateway-ի մաս չեն։ Դրանք աշխատում են որպես sidecar-ներ. փոքր, անկախ HTTP ծառայություններ, որոնց gateway-ը հասնում է URL-ով։ Յուրաքանչյուր sidecar անվճար և լոկալ է. դրանցից որևէ մեկի հետևում չկա պարտադիր վճարովի API։
Ինչ է sidecar-ը
Sidecar-ը առանձին պրոցես է, որը բացահայտում է HTTP API։ Gateway-ը երբեք այն չի կապում ներս կամ չի աշխատեցնում in-process — այն ուղղակի կանչում է ձեր կարգավորած URL-ը։ Յուրաքանչյուր sidecar
- աշխատում է իր սեփական systemd unit-ի ներքո (host-native, առանց container-ների),
- միացված է gateway-ին environment variable-ի միջոցով, և
- կարող է տեղադրվել natively gateway-ի կողքին, կամ ուղղորդվել դեպի առկա instance, որը դուք արդեն աշխատեցնում եք այլուր։
Քանի որ պայմանագիրը ուղղակի HTTP է, նույն կարգաձևն աշխատում է՝ անկախ նրանից
sidecar-ը localhost-ի վրա է, թե մեկ այլ host-ի։
[!NOTE] Sidecar-ները ընտրովի են։ Հնարավորությունն ակտիվ է միայն այն ժամանակ, երբ դրա URL-ը կարգավորված է. մինչ այդ gateway-ն աշխատում է առանց դրա։ Սա նվազագույն տեղադրումը պահում է ընդամենը gateway-ի և PostgreSQL-ի սահմաններում։
Sidecar-ները և նրանց port-երը
| Port | Sidecar | Հիմնված է | Աշխատեցնում է | Միացված է |
|---|---|---|---|---|
| 8001 | STT | faster-whisper | speech-to-text | AIHUMMER_STT_URL |
| 8002 | TTS | edge-tts | text-to-speech | AIHUMMER_TTS_URL |
| 8003 | diarize | pyannote | խոսողի դիարիզացիա | AIHUMMER_DIARIZE_URL |
| 8004 | voiceclone | OpenVoice V2 | ձայնի կլոնավորում | AIHUMMER_VOICECLONE_URL |
| 8005 | video | ffmpeg | վիդեոյի ըմբռնում | AIHUMMER_VIDEO_URL |
| 8888 | SearXNG | SearXNG | web_search գործիքը |
SEARXNG_URL |
| 9222 | Chrome / CDP | Chrome (CDP) | browser գործիքը |
CLOAKBROWSER_CDP_URL |
Ձայնի sidecar-ները out-of-the-box ուղին են. STT-ն (:8001) սնուցում է agent-ի
turn-ը, և TTS-ն (:8002) արտաբերում է պատասխանը, երկուսն էլ անվճար/լոկալ
շարժիչների վրա։ Դիարիզացիան (:8003), ձայնի կլոնավորումը (:8004) և վիդեոյի
ըմբռնումը (:8005) լրացուցիչ, ընտրովի-միացվող sidecar-ներ են։ SearXNG-ն (:8888)
հիմնավորում է web_search-ը, և Chrome/CDP endpoint-ը (:9222) հիմնավորում է
browser գործիքը։
Sidecar-ների միացում
Դուք gateway-ն ուղղորդում եք յուրաքանչյուր sidecar-ին համապատասխան environment variable-ով։ Host-native տեղադրման համար ձայնի sidecar-ները (STT/TTS) կարգավորված են ձեզ համար. մնացածը միացնում եք ըստ անհրաժեշտության։
# gateway.env — voice in/out (auto-set by the installer for STT/TTS)
AIHUMMER_STT_URL=http://127.0.0.1:8001
AIHUMMER_TTS_URL=http://127.0.0.1:8002
# Optional voice/video sidecars
AIHUMMER_DIARIZE_URL=http://127.0.0.1:8003
AIHUMMER_VOICECLONE_URL=http://127.0.0.1:8004
AIHUMMER_VIDEO_URL=http://127.0.0.1:8005
# Tool sidecars
SEARXNG_URL=http://127.0.0.1:8888
CLOAKBROWSER_CDP_URL=http://127.0.0.1:9222[!TIP] Քանի որ յուրաքանչյուր sidecar ուղղակի URL է, դուք կարող եք կենտրոնացնել ծանր ծառայությունները։ Ուղղորդեք մի քանի gateway մեկ ընդհանուր STT/TTS կամ SearXNG instance-ի վրա՝ ամեն host-ի համար պատճեն աշխատեցնելու փոխարեն։
Դրանք natively կամ ընդհանուր աշխատեցնելը
Յուրաքանչյուր sidecar ապրում է host-ի վրա իր սեփական systemd unit-ի ներքո, ուստի դուք այն գործարկում եք ինչպես ցանկացած այլ ծառայություն — գործարկում, կանգնեցնում և կարդում եք լոգերը gateway-ից անկախ։ Եթե դուք արդեն աշխատեցնում եք, ասենք, SearXNG կամ Chrome/CDP endpoint, ուղղակի սահմանեք URL-ը այդ առկա instance-ի վրա և ամբողջությամբ բաց թողեք լոկալ տեղադրումը։ Ամեն դեպքում gateway-ի տեսանկյունը նույնական է. կարգավորված URL, որը այն կարող է կանչել։
[!WARNING]
browser(CDP) ևweb_searchգործիքները դիմում են ցանցին։ Կարծրացված կամ air-gapped տեղակայումներում վերանայեք ելքային երթևեկը և air-gapped կարգավորումը նախքան դրանք միացնելը — gateway-ը կանչում է միայն այն sidecar-ը, որը դուք միացրել եք։
Ուր հաջորդիվ
- Ինչպես են ձայնն ու browser գործիքը օգտագործվում turn-ում. Gateway և turn engine։
- Նվազագույն կոշտ կախվածությունը (PostgreSQL) և ընտրովի մնացած ամեն ինչը. Gateway և turn engine։