AiHummer
ქართული▾
შესვლაპირადი კაბინეტი
v1.6.x▾
{ }Swagger

BYOK და LLM მიმწოდებლები

v1.6.x · განახლდა 2026-11-09

სამუშაო პასუხებისთვის დააკავშირეთ რეალური მოდელის პროვაიდერი. ფასიანი API გასაღები სავალდებულო არ არის: გამოიყენეთ ადგილობრივი OpenAI-თავსებადი მოდელი, მხარდაჭერილი გამოწერა ან საკუთარი API გასაღები.

როდესაც თქვენ ნამდვილად გსურთ კონკრეტული მოდელის გამოყენება, თქვენ მას თავად მიგაქვთ — ან როგორც მთელი პროცესის კონფიგურაცია, ან თითოეული დაქირავებულისთვის ცალცალკე, ერთად ბიოკ («მოიტანეთ თქვენი გასაღები»).

მხარდაჭერილი LLM პროვაიდერები

AiHummer ადგილობრივად ურთიერთობს ნებისმიერ პროვაიდერთან, რომელიც უზრუნველყოფს OpenAI სტილის ჩატ-API-ს, სხვა პროვაიდერებთან დაკავშირება ხდება გარე LLM-ს შუამავლის მეშვეობით და მხარს უჭერს ChatGPT-ს გამოწერის ტრანსპორტს. პრაქტიკაში ეს მოიცავს:

მომწოდებელი როგორ წყვეტა შენიშვნები
OpenAI მშობლიური გზა, თავსებადი OpenAI-სთან (AIHUMMER_OPENAI_*)
თითოეული საბოლოო წერტილი OpenAI API-ის სტანდარტში უნიშნავი ეზო: AIHUMMER_OPENAI_BASE_URL ლოკალური მოდელები, OpenRouter, OpenAI API-ს თავსებადი Gemini და ა.შ.
ანტროპიკ ვებ-მინტერფეისი ანტროპიკ წინასწარ დაყენება (OpenAI-თან თავსებადი) ან LLM ბრიჯის საშუალებით (AIHUMMER_LLM_*) Claude-ის მოდელები; დაუკავშირეთ ისინი ბრენდირებული მიმწოდებლის არჩევის vasitებით ან მისცეთ დახმარების კარიბჭეს შეინახოს საკვანძო
Codex / ChatGPT გამოწერის ტრანსპორტი გადახდილი ტრანსპორტი (AIHUMMER_CODEX_*) იყენებს ChatGPT-ის გამოწერას მეტრიკის API-ს კოდის ნაცვლად

[!WARNING] სამუშაო პასუხებისთვის დააკავშირეთ რეალური მოდელის პროვაიდერი. ფასიანი API გასაღები სავალდებულო არ არის: გამოიყენეთ ადგილობრივი OpenAI-თავსებადი მოდელი, მხარდაჭერილი გამოწერა ან საკუთარი API გასაღები.

მოდელის დაკავშირება პარამეტრებით

LLM-ის კლებები პარამეტრების კატალოგი ხელები (შეფასებულია მონაცემთა ბაზაში): დააყენეთ ისინი ადმინისტრატორის ინტერფეისში (მართვა → პარამეტრები) ან დახმარებით aihummer settings set, არა gateway.env. აქვს ორი დამოუკიდებელი სავარძელი — არ აურიოთ მათი ცვლადები.

(a) მშობლიური გზა, OpenAI-თან თავსებადი. გეითვეი თვითონ იწვევს OpenAI-თან თავსებად საბოლოო წერტილს და თვითონ გადასცემს გასაღებებს:

aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini

რაც იგივე გზა მუშაობს ადგილობრივ სერვერზე, რომელიც თავსებადია OpenAI-თან, OpenRouter-თან ან OpenAI-ის თავსებად Gemini-ის საბოლოო წერტილთან — უბრალოდ მიუთითეთ AIHUMMER_OPENAI_BASE_URL ამისთვის.

(ბ) LLM-კარიბჭის გზა. AIHUMMER_LLM_GATEWAY_URL არის უნაზუვლებელი URL-მისამართი OpenAI-სთან თავსებადი სერვერისა — ეს იგივე კონფიგურაციაა, რომელიც ნაჩვენებია კონფიგურაცია. მიუთითეთ იგი გასეირნების გვერდის მანქანაზე, რომელიც თვითონ ეჭირება მომწოდებლის გასაღებებს (API გასაღები არ გადაჰყავთ AiHummer-ით) ან პირდაპირ OpenAI-ს თავსებადი API-ის პროვაიდერის საშუალებით (ამ შემთხვევაში თქვენ ასევე სთავაზობთ ამ პროვაიდერის გასაღებს). ეს განსხვავდება ნატიურისგან AIHUMMER_OPENAI_BASE_URL გზაში (ა):

aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5

[!WARNING] მოვლენები არ იკავშირებიან: გაერთიანება AIHUMMER_LLM_GATEWAY_URL ს AIHUMMER_OPENAI_API_KEY რისმეს არ აკეთებს — გასასვლელზე aucune კლავიატურა არ გადაიცემა მთვარე გზა; საიდკარი იყენებს თავის საკუთარ გასაღებს.

თუ პროვაიდერი არ არის გამართული, გამოჩნდება შეცდომა: AI მოდელის პროვაიდერი ჯერ არ არის კონფიგურირებული — დაამატეთ ერთი განყოფილებაში «მოდელები»

BYOK: სხრებები თითოეული მყიდველი

სადაც გარემოს ცვლადები აწესრიგებენ ერთიან მოდელს მთელი პროცესისთვის, ბიოკ უკეთ მოუფრთხილდეთ თითოეულ ყველაზე ქირავნელს, რომ უზრუნველყოს თავისი საკუთარი LLM დამდგენი. BYOK გასაღებები მართავს ადმინისტრაციული API–ს საშუალებით:

GET  /v1/admin/byok
POST /v1/admin/byok

BYOK გასაღებები ინახება დამუშავებულ საცავში, როგორც ნებისმიერი სხვა იდენტიფიკაციის მონაცემები — ისინი არასდროს ინახება ჟურნალებში და არ ჩანს მოდელის კონტექსტში. ეს საშუალებას აძლევს მრავალმომხმარებლიან გადაწყვეტილებებს შენახონ თითოეული კლიენტის მოდელები. ბილინგი და მთავარი მასალა სრულიად განცალკევებულია.

სხვა პარამეტრებსა და BYOK-ს შორის არჩევანი

  • გამოიყენეთ AIHUMMER_OPENAI_* / AIHUMMER_LLM_* პარამეტრები თვის ერთმომხმარებლიანი ან სტანდარტული მოდელი, რომელსაც უნდა გამოიყენოს მთელი გეინი.
  • გამოიყენება ბიოკ როდესაც სხვადასხვა ქირავნიანმა უნდა გამოიყენოს განსხვავებული გასაღები, განსხვავებული მომწოდებლები ან აღინიშნება ცალკე საფასურის ანგარიშში — თითოეული ქირავნილისთვის კლავიში იცვლება ნაგულისხმევი მნიშვნელობით ამ ვალდებულებისთვის.

[!TIP] რადგან ნებისმიერი OpenAI-API-სტანდარტული სერვერის წერტილი qəbulებულია, თქვენ შეგიძლიათ მიუთითოთ AIHUMMER_OPENAI_BASE_URL ლოკალურ სერვერზე მოდელი, OpenRouter ან Gemini OpenAI-სთან თავსებადი საბოლოო წერტილი AiHummer-ში სხვა არაფრის შეცვლის გარეშე.

როგორ ეს დაკავშირებულია მოდელის წვდომის დანარჩენ ნაწილთან

BYOK კლავიშები არის მოდელის ავტოდატები და ინახებიან იგივე დაშიფრული საცავში, სადაც კავშირები და საერთო/პირადი საიდუმლოებები. მასშტაბის სხვაობა: BYOK პასუხობს რომელი მodelი და გასაღები იყენებს ეს დამქირავებელი, იმ დროს როგორიც პირადი და საერთო აირჩევს პასუხებს რომელი მომხმარებლის მონაცემებით ხდება ამ ინსტრუმენტის გამოძახება.

სად შემდეგ?