Сөйлеу кіріс және шығыс (STT / TTS)
AiHummer тұтқалары қорап ішіндегі және қораптан шыққан сөйлеу — ақысыз сөйлеу API қажет емес. Келіп түскен дыбыстық клип транскрипцияланады (STT), мәтін әдеттегі агенттің әрекетін басқарады, және жауап қайтадан айтылып шығады (TTS). Екі қозғалтқыш та тегін және жергілікті және іске қосу ретінде қасындағы арбалар: транскрипция үшін faster-whisper және синтез үшін edge-tts.
Дауыстың айналуы қалай жұмыс істейді
Дауыстың бұрылысы – екі жағында да дыбыс бар қалыпты агенттің бұрылысы:
- Шлюз кіріс аудионы мынаға жібереді STT сайдкар (
:8001, faster-whisper) және мәтінді қайтарады. - Әйгілі мәтін әдеттегі функцияларды шақыру тәртібін басқарады — сол маршрутизатор, оркестратор, құралдар мен жадты мәтіндік хабар ретінде.
- Жауап мәтіні жіберіледі TTS сайдкар (
:8002, edge-tts) және айтылған аудио қоңырау шалушыға қайтарылады.
Бұл бір ғана соңғы нүкте ретінде көрсетіледі, POST /v1/voice/turn, осылайша арна немесе клиент қадамдарды өз бетімен ұйымдастырмай-ақ дыбысты бере алады және дыбысты қабылдай алады.
Соңғы нүктелер
| Әдіс | Соңғы нүкте | Мақсат |
|---|---|---|
POST |
/v1/voice/turn |
Дыбыс кірісі → агенттің кезегі → дыбыс шығысы |
GET |
/v1/voice/config |
Ағымдағы дауыс конфигурациясы (қозғалтқыштар, баптау тұтқалары) |
POST /v1/voice/turn HTTP/1.1
Host: localhost:8780
Content-Type: application/json
{
"audio": "<base64-encoded clip>",
"format": "wav"
}
[!NOTE] Сөйлеу мүмкіндіктері ядроның бөлігі және SIP плагиніне байланыстырылмаған. SIP каналы өзінде осы сол STT/TTS қозғалтқыштарын пайдаланады
localқозғалтқыш, бірақ дауыс кіріс/шығыс/v1/voice/turnшақыратын кез келген клиент үшін жұмыс істейді.
Дауыс қосалқылары
| Порт | Сайдкар | Қозғалтқыш | Рөл | Сыммен жалғанған |
|---|---|---|---|---|
| 8001 | СТТ | жылдамырақ сыбыр | сөйлегенді → мәтін | AIHUMMER_STT_URL |
| 8002 | Дыбысты мәтінге айналдыру | edge-tts | мәтін → сөйлеу | AIHUMMER_TTS_URL |
Екі қозғалтқыш та тегін және жергілікті: ештеңе ақылы сөйлеу қызметіне жіберілмейді. Әрбір қосымша модуль сияқты, шлюз оларға қол жетімді URL бойынша, сонда сіз оларды шлюздің жанында немесе жалпы экземплярға нұсқап орната аласыз.
Сым
Хост-негіздегі орнатушы сіз үшін STT және TTS URL мекенжайларын орнатады. Олар каталог параметрлері — оларды әкімші интерфейсінен өзгерту (Басқару → Баптаулар) немесе бірге aihummer settings set; gateway.env тек Bootstrap үшін және мыналарға қаралмайды:
# Voice in/out (auto-configured by the installer)
aihummer settings set AIHUMMER_STT_URL http://127.0.0.1:8001
aihummer settings set AIHUMMER_TTS_URL http://127.0.0.1:8002
[!TIP] Әрбір сайдкар тек URL болғандықтан, бірнеше шлюз бір STT/TTS жүйесін бөлісе алады мысал. Әрбір нұсқасын іске қосудың орнына, ауыр сөйлеу қызметтерін орталықтандырындар қонақжай
Аудио жолын баптау
Дауыс сапасының тұтқалары осы жерде орналасады Медиа · Дауыс параметрлер тобы және веб әкімші UI арқылы бапталуы мүмкін — қайта таратудың қажеті жоқ. Олар нақты уақыттағы дыбыс жолын қамтиды:
| Түйме | Не басқарады |
|---|---|
| Дуплекс | Толық дуплексті (сөйлеп жатқанда тыңдау) vs жартылай дуплексті |
| AEC | Акустикалық эхо жою |
| Шулығы төмендету | СТТ алдында фондық шуынды сүзеді |
| AGC | Автоматты күшейтуді басқару (деңгейді қалыпқа келтіру) |
| VAD шегі | Дыбыс қимылын анықтау сезімталдығы |
| Араласу | Қоңыраушы агенттің жауап беруін жартылай бөгесін |
GET /v1/voice/config клиентке белсенді қозғалтқыштар мен осы параметрлерді анықтауға мүмкіндік беретін тиімді баптауды қайтарады.
Келесі қайда
- Осы қызметтердің артындағы көлік моделі: Сайдкарлар.
- Сөйлеуді аудару және бейне түсіну: Сөйлеу аудармасы және видео.
- Телефон сызығындағы дауыс: SIP телефониясы.