Järjestelmävaatimukset
AiHummer on isäntäspesifi tuote: se toimii release-tarballina systemdin alla, joten vaatimukset ovat tarkoituksella pienet. Ainoa kova riippuvuus on Linux-isäntä, jossa on PostgreSQL. Kaikki muu — sivupalvelut, todellinen malli, vektoritietovarasto — on valinnaista ja voidaan lisätä myöhemmin hallintakäyttöliittymästä.
[!NOTE] AiHummer on isäntä-alkuperäinen, ei Docker. Se otetaan käyttöön tarballina, joka toimii alaisuudessa systemd:stä
~/.aihummer(käyttäjän kotihakemisto, joka suoritti asentaja). Et tarvitse konttiympäristöä, Kubernetesia tai mitään orkestroija.
Käyttöjärjestelmä
AiHummer toimii Vain Linux. Windows- tai macOS-palvelinversiota ei ole — portti ja sen sivupalvelut on pakattu arkkitehtuurikohtaisiksi Linux-artifakteiksi ja ne otetaan käyttöön systemd:n avulla. (Asiakasohjelma on erillinen mobiili- ja työpöytäsovellus; se on kanava, ei palvelin.)
- Moderni 64-bittinen Linux-jakelu, jossa
systemd. x86_64(amd64) taiarm64— asentaja lataa vastaavan arkkitehtuurin paketin.sudo/root-käyttöoikeus on ei ehdottomasti vaadittu: normaali asennus suoritetaan kauttasudo, mutta asentamalla asennusohjelman ilman root-oikeuksia AiHummer asennetaan rootittomaan tilaan tila allasystemd --user— näe Asennus.
Tietokanta
PostgreSQL on vain kova riippuvuus ja ainoa totuuden lähde kaikelle tilalle. pgcrypto laajennus on vaadittu — se tukee salaista tunnistetietovarastoa. Ilman tietokantaa portti käynnistyy rajoitetussa vain-terveys-tilassa eikä palvele mitään hyödyllistä.
[!IMPORTANT] Ota käyttöön
pgcryptokohde-tietokannassa ennen ensimmäistä suorittamista:CREATE EXTENSION IF NOT EXISTS pgcrypto;
Yhdyskäytävä yhdistyy DSN:n kautta AIHUMMER_DATABASE_URL. Monivuokraajaisolaatioon voit lisäksi osoittaa AIHUMMER_DB_APP_URL rajoitetulla aihummer_app rooli Postgres-rivitasoturvallisuuden aktivoimiseksi; paikalliset asennukset asettavat tämän automaattisesti. Tietokantamigraatiot ovat eteenpäin turvallisia ja ne suoritetaan automaattisesti omistajan poolin neuvontalukituksen alaisuudessa.
Laitteisto
Nämä luvut ovat ohjeellisia yhdelle isännälle tarkoitetulle gatewayn ja PostgreSQL:n käyttöönotolle. Sivupalvelimet (STT/TTS, selain, vektoritietovarasto) lisäävät oman kuormansa ja ne sijoitetaan yleensä samaan isäntään vain pienissä käyttöönotossa.
| Profiili | Suoritin | RAM | Levy | Muistiinpanot |
|---|---|---|---|---|
| Minimi (eval) | 2 vCPU | 2 Gt | 10 Gt | Gateway + Postgres, mallinäkymä, ilman sivuprosesseja |
| Suositeltu | 4 vCPU | 8 Gt | 40 GB SSD | Gateway + Postgres + pari sivukäyttöohjelmaa |
| Puhe / paikalliset mallit | 8+ vCPU (GPU valinnainen) | 16+ Gt | 80+ GB SSD | STT/TTS, upottaja, paikallinen LLM-päätepiste |
Levyn käyttö kasvaa keskusteluhistorian myötä, mediatiedostoja sisältävä hakemisto (AIHUMMER_BLOB_DIR), tiedon kerääminen ja tarkastuksen säilyttäminen. Suunnittele PostgreSQL-varmuuskopiot (pg_dump + WAL/PITR) sen mukaisesti.
Sivuvaunut (valinnainen)
Sivuvaunut ovat erilliset HTTP-palvelut, jokainen omassa systemd-yksikössään. Yhdyskäytävä saavuttaa ne URL:n kautta, joten sivuvaunu voi toimia samalla palvelimella, toisella palvelimella, tai voit osoittaa olemassa olevaan instanssiin. Ne kaikki ovat ilmaisia/paikallisia eivätkä koskaan ole pakollisia perusasennuksessa.
| Sivuvaunu | Oletusportti | Mahdollistaa |
|---|---|---|
| STT (nopeampi kuiskaus) | 8001 | Puheesta tekstiin äänen vuoroille |
| TTS (edge-tts) | 8002 | Teksti puheeksi äänenvaihtoihin |
| Video (ffmpeg) | 8005 | Videon ymmärtäminen |
| SearXNG | 8888 | Se web_search työkalu |
| Chrome/CDP | 9222 | Se browser / computer työkalut |
STT, TTS, video, verkkohaku (SearXNG) ja selain (CloakBrowser) asennetaan kaikki valmiiksi asennusohjelman toimesta. Haun ja selaimen paketit toimitetaan allekirjoitetun asennusnipun sisällä ja asennetaan offline-tilassa: poista ne käytöstä lipuilla --no-search / --no-browser, tai liitä jo ajamasi instanssi lipuilla --external-search=URL / --external-browser=URL paikallisen asennuksen sijaan. Äänisivuvaunut voi ohittaa AIHUMMER_SKIP_* muuttujilla. Semanttinen upottaja on osallistua vapaaehtoisesti (--with-embedder): se lataa PyTorchin (satoja MB), ja ilman sitä muisti palaa leksikaaliseen hakuun. Katso Asennus.
[!NOTE] Myös Node.js (versio 20 tai uudempi) toimitetaan asennusnipun sisällä ja asennetaan offline-tilassa, joten Node.js-lisäosat — AiHummer-sovellus, pocket-agent ja kanavaliittimet — toimivat suoraan myös jakeluissa, joiden oma Node.js on liian vanha.
LLM-tarjoajat
AiHummer ei koskaan vaadi maksullista mallia. Se toimii suoraan ilmaisilla/paikallisilla malleilla ja Codex/ChatGPT-tilauskuljetuksella; per-vuokraaja BYOK-avaimet ovat täysin valinnaisia.
Tuetut tarjoajat:
- Antropinen.
- OpenAI.
- Mikä tahansa OpenAI-API-standardipäätepiste — paikalliset mallipalvelimet, OpenRouter tai Esimerkiksi Geminin OpenAI-yhteensopiva päätepiste.
- Codex / ChatGPT-tilaustransportti — aja mallia ChatGPT:n kautta tilausta sen sijaan, että käytettäisiin veloitettua API-avainta.
[!TIP] Jos käynnistät portin ilman johdettua mallia (
AIHUMMER_LLM_PROVIDER/AIHUMMER_LLM_MODEL/AIHUMMER_LLM_GATEWAY_URL), vastaukset tulevat deterministisestä pilkata jotta voit vahvistaa kanavat ja reititys ennen todellisen mallin yhdistämistä.
[!NOTE] AiHummer paljastaa vain OpenAI-yhteensopivat
POST /v1/chat/completionspäätepiste. Siellä on ei/v1/modelstai/v1/embeddingsHTTP-päätepiste, ja havaittavuus on OTLP-push (ei Prometheusta/metrics).