AiHummer
ქართული
შესვლაპირადი კაბინეტი
v1.0.x
{ }Swagger

BYOK და LLM მიმწოდებლები

v1.0.x · განახლდა 2026-07-05

AiHummer არასოდეს არ მოითხოვს ფასიან მოდელს. ყუთიდან ის მუშაობს უფასო და ადგილობრივ მოდელებზე და Codex/ChatGPT გამოწერის ტრანსპორტის საშუალებით, ხოლო თუ მოდელი საერთოდ არ არის დაკავშირებული, შესრულების დრო გადადის დეტერმინირებულ განლაგებაზე, ასე რომ პლატფორმა ჯერ კიდევ იწყებს მუშაობას და შეიძლება შეისწავლოს. როდესაც თქვენ ნამდვილად გსურთ კონკრეტული მოდელის გამოყენება, თქვენ მას თავად მიგაქვთ — ან როგორც მთელი პროცესის კონფიგურაცია, ან თითოეული დაქირავებულისთვის ცალცალკე, ერთად ბიოკ («მოიტანეთ თქვენი გასაღები»).

მხარდაჭერილი LLM პროვაიდერები

AiHummer ადგილობრივად ურთიერთობს ნებისმიერ პროვაიდერთან, რომელიც უზრუნველყოფს OpenAI სტილის ჩატ-API-ს, სხვა პროვაიდერებთან დაკავშირება ხდება გარე LLM-ს შუამავლის მეშვეობით და მხარს უჭერს ChatGPT-ს გამოწერის ტრანსპორტს. პრაქტიკაში ეს მოიცავს:

მომწოდებელი როგორ წყვეტა შენიშვნები
OpenAI მშობლიური გზა, თავსებადი OpenAI-სთან (AIHUMMER_OPENAI_*)
თითოეული საბოლოო წერტილი OpenAI API-ის სტანდარტში უნიშნავი ეზო: AIHUMMER_OPENAI_BASE_URL ლოკალური მოდელები, OpenRouter, OpenAI API-ს თავსებადი Gemini და ა.შ.
ანტროპიკ ვებ-მინტერფეისი ანტროპიკ წინასწარ დაყენება (OpenAI-თან თავსებადი) ან LLM ბრიჯის საშუალებით (AIHUMMER_LLM_*) Claude-ის მოდელები; დაუკავშირეთ ისინი ბრენდირებული მიმწოდებლის არჩევის vasitებით ან მისცეთ დახმარების კარიბჭეს შეინახოს საკვანძო
Codex / ChatGPT გამოწერის ტრანსპორტი გადახდილი ტრანსპორტი (AIHUMMER_CODEX_*) იყენებს ChatGPT-ის გამოწერას მეტრიკის API-ს კოდის ნაცვლად

[!WARNING] არანაირი გადახდის API მოდელი არასოდეს არის აუცილებელი. AiHummer მუშაობს უფასო/ლოკალურ მოდელებზე და ტრანსპორტი Codex/ChatGPT- გამოწერა, და თუ მოდელი არ არის კონფიგურირებული გადახდის დრო იყენებს დეტერმინირებულ განლაგებას — ჭიშკარი მაინც იწყება და პასუხობს. BYOK და გადახდილი გასაღებები სრულიად არ არის აუცილებელი.

მოდელის დაკავშირება პარამეტრებით

LLM-ის კლებები პარამეტრების კატალოგი ხელები (შეფასებულია მონაცემთა ბაზაში): დააყენეთ ისინი ადმინისტრატორის ინტერფეისში (მართვა → პარამეტრები) ან დახმარებით aihummer settings set, არა gateway.env. აქვს ორი დამოუკიდებელი სავარძელი — არ აურიოთ მათი ცვლადები.

(a) მშობლიური გზა, OpenAI-თან თავსებადი. გეითვეი თვითონ იწვევს OpenAI-თან თავსებად საბოლოო წერტილს და თვითონ გადასცემს გასაღებებს:

aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini

რაც იგივე გზა მუშაობს ადგილობრივ სერვერზე, რომელიც თავსებადია OpenAI-თან, OpenRouter-თან ან OpenAI-ის თავსებად Gemini-ის საბოლოო წერტილთან — უბრალოდ მიუთითეთ AIHUMMER_OPENAI_BASE_URL ამისთვის.

(ბ) LLM-კარიბჭის გზა. AIHUMMER_LLM_GATEWAY_URL არის უნაზუვლებელი URL-მისამართი OpenAI-სთან თავსებადი სერვერისა — ეს იგივე კონფიგურაციაა, რომელიც ნაჩვენებია კონფიგურაცია. მიუთითეთ იგი გასეირნების გვერდის მანქანაზე, რომელიც თვითონ ეჭირება მომწოდებლის გასაღებებს (API გასაღები არ გადაჰყავთ AiHummer-ით) ან პირდაპირ OpenAI-ს თავსებადი API-ის პროვაიდერის საშუალებით (ამ შემთხვევაში თქვენ ასევე სთავაზობთ ამ პროვაიდერის გასაღებს). ეს განსხვავდება ნატიურისგან AIHUMMER_OPENAI_BASE_URL გზაში (ა):

aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5

[!WARNING] მოვლენები არ იკავშირებიან: გაერთიანება AIHUMMER_LLM_GATEWAY_URLAIHUMMER_OPENAI_API_KEY რისმეს არ აკეთებს — გასასვლელზე aucune კლავიატურა არ გადაიცემა მთვარე გზა; საიდკარი იყენებს თავის საკუთარ გასაღებს.

თუ არც ერთი გზა არ არის დაყენებული, გამოიყენება დეტერმინირებული განლაგება.

BYOK: სხრებები თითოეული მყიდველი

სადაც გარემოს ცვლადები აწესრიგებენ ერთიან მოდელს მთელი პროცესისთვის, ბიოკ უკეთ მოუფრთხილდეთ თითოეულ ყველაზე ქირავნელს, რომ უზრუნველყოს თავისი საკუთარი LLM დამდგენი. BYOK გასაღებები მართავს ადმინისტრაციული API–ს საშუალებით:

GET  /v1/admin/byok
POST /v1/admin/byok

BYOK გასაღებები ინახება დამუშავებულ საცავში, როგორც ნებისმიერი სხვა იდენტიფიკაციის მონაცემები — ისინი არასდროს ინახება ჟურნალებში და არ ჩანს მოდელის კონტექსტში. ეს საშუალებას აძლევს მრავალმომხმარებლიან გადაწყვეტილებებს შენახონ თითოეული კლიენტის მოდელები. ბილინგი და მთავარი მასალა სრულიად განცალკევებულია.

სხვა პარამეტრებსა და BYOK-ს შორის არჩევანი

  • გამოიყენეთ AIHUMMER_OPENAI_* / AIHUMMER_LLM_* პარამეტრები თვის ერთმომხმარებლიანი ან სტანდარტული მოდელი, რომელსაც უნდა გამოიყენოს მთელი გეინი.
  • გამოიყენება ბიოკ როდესაც სხვადასხვა ქირავნიანმა უნდა გამოიყენოს განსხვავებული გასაღები, განსხვავებული მომწოდებლები ან აღინიშნება ცალკე საფასურის ანგარიშში — თითოეული ქირავნილისთვის კლავიში იცვლება ნაგულისხმევი მნიშვნელობით ამ ვალდებულებისთვის.

[!TIP] რადგან ნებისმიერი OpenAI-API-სტანდარტული სერვერის წერტილი qəbulებულია, თქვენ შეგიძლიათ მიუთითოთ AIHUMMER_OPENAI_BASE_URL ლოკალურ სერვერზე მოდელი, OpenRouter ან Gemini OpenAI-სთან თავსებადი საბოლოო წერტილი AiHummer-ში სხვა არაფრის შეცვლის გარეშე.

როგორ ეს დაკავშირებულია მოდელის წვდომის დანარჩენ ნაწილთან

BYOK კლავიშები არის მოდელის ავტოდატები და ინახებიან იგივე დაშიფრული საცავში, სადაც კავშირები და საერთო/პირადი საიდუმლოებები. მასშტაბის სხვაობა: BYOK პასუხობს რომელი მodelი და გასაღები იყენებს ეს დამქირავებელი, იმ დროს როგორიც პირადი და საერთო აირჩევს პასუხებს რომელი მომხმარებლის მონაცემებით ხდება ამ ინსტრუმენტის გამოძახება.

სად შემდეგ?