BYOK და LLM მიმწოდებლები
სამუშაო პასუხებისთვის დააკავშირეთ რეალური მოდელის პროვაიდერი. ფასიანი API გასაღები სავალდებულო არ არის: გამოიყენეთ ადგილობრივი OpenAI-თავსებადი მოდელი, მხარდაჭერილი გამოწერა ან საკუთარი API გასაღები.
როდესაც თქვენ ნამდვილად გსურთ კონკრეტული მოდელის გამოყენება, თქვენ მას თავად მიგაქვთ — ან როგორც მთელი პროცესის კონფიგურაცია, ან თითოეული დაქირავებულისთვის ცალცალკე, ერთად ბიოკ («მოიტანეთ თქვენი გასაღები»).
მხარდაჭერილი LLM პროვაიდერები
AiHummer ადგილობრივად ურთიერთობს ნებისმიერ პროვაიდერთან, რომელიც უზრუნველყოფს OpenAI სტილის ჩატ-API-ს, სხვა პროვაიდერებთან დაკავშირება ხდება გარე LLM-ს შუამავლის მეშვეობით და მხარს უჭერს ChatGPT-ს გამოწერის ტრანსპორტს. პრაქტიკაში ეს მოიცავს:
| მომწოდებელი | როგორ წყვეტა | შენიშვნები |
|---|---|---|
| OpenAI | მშობლიური გზა, თავსებადი OpenAI-სთან (AIHUMMER_OPENAI_*) |
|
| თითოეული საბოლოო წერტილი OpenAI API-ის სტანდარტში | უნიშნავი ეზო: AIHUMMER_OPENAI_BASE_URL |
ლოკალური მოდელები, OpenRouter, OpenAI API-ს თავსებადი Gemini და ა.შ. |
| ანტროპიკ | ვებ-მინტერფეისი ანტროპიკ წინასწარ დაყენება (OpenAI-თან თავსებადი) ან LLM ბრიჯის საშუალებით (AIHUMMER_LLM_*) |
Claude-ის მოდელები; დაუკავშირეთ ისინი ბრენდირებული მიმწოდებლის არჩევის vasitებით ან მისცეთ დახმარების კარიბჭეს შეინახოს საკვანძო |
| Codex / ChatGPT გამოწერის ტრანსპორტი | გადახდილი ტრანსპორტი (AIHUMMER_CODEX_*) |
იყენებს ChatGPT-ის გამოწერას მეტრიკის API-ს კოდის ნაცვლად |
[!WARNING] სამუშაო პასუხებისთვის დააკავშირეთ რეალური მოდელის პროვაიდერი. ფასიანი API გასაღები სავალდებულო არ არის: გამოიყენეთ ადგილობრივი OpenAI-თავსებადი მოდელი, მხარდაჭერილი გამოწერა ან საკუთარი API გასაღები.
მოდელის დაკავშირება პარამეტრებით
LLM-ის კლებები პარამეტრების კატალოგი ხელები (შეფასებულია მონაცემთა ბაზაში): დააყენეთ ისინი ადმინისტრატორის ინტერფეისში (მართვა → პარამეტრები) ან დახმარებით aihummer settings set, არა gateway.env. აქვს ორი დამოუკიდებელი სავარძელი — არ აურიოთ მათი ცვლადები.
(a) მშობლიური გზა, OpenAI-თან თავსებადი. გეითვეი თვითონ იწვევს OpenAI-თან თავსებად საბოლოო წერტილს და თვითონ გადასცემს გასაღებებს:
aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini
რაც იგივე გზა მუშაობს ადგილობრივ სერვერზე, რომელიც თავსებადია OpenAI-თან, OpenRouter-თან ან OpenAI-ის თავსებად Gemini-ის საბოლოო წერტილთან — უბრალოდ მიუთითეთ AIHUMMER_OPENAI_BASE_URL ამისთვის.
(ბ) LLM-კარიბჭის გზა. AIHUMMER_LLM_GATEWAY_URL არის უნაზუვლებელი URL-მისამართი OpenAI-სთან თავსებადი სერვერისა — ეს იგივე კონფიგურაციაა, რომელიც ნაჩვენებია კონფიგურაცია. მიუთითეთ იგი გასეირნების გვერდის მანქანაზე, რომელიც თვითონ ეჭირება მომწოდებლის გასაღებებს (API გასაღები არ გადაჰყავთ AiHummer-ით) ან პირდაპირ OpenAI-ს თავსებადი API-ის პროვაიდერის საშუალებით (ამ შემთხვევაში თქვენ ასევე სთავაზობთ ამ პროვაიდერის გასაღებს). ეს განსხვავდება ნატიურისგან AIHUMMER_OPENAI_BASE_URL გზაში (ა):
aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5
[!WARNING] მოვლენები არ იკავშირებიან: გაერთიანება
AIHUMMER_LLM_GATEWAY_URLსAIHUMMER_OPENAI_API_KEYრისმეს არ აკეთებს — გასასვლელზე aucune კლავიატურა არ გადაიცემა მთვარე გზა; საიდკარი იყენებს თავის საკუთარ გასაღებს.
თუ პროვაიდერი არ არის გამართული, გამოჩნდება შეცდომა: AI მოდელის პროვაიდერი ჯერ არ არის კონფიგურირებული — დაამატეთ ერთი განყოფილებაში «მოდელები»
BYOK: სხრებები თითოეული მყიდველი
სადაც გარემოს ცვლადები აწესრიგებენ ერთიან მოდელს მთელი პროცესისთვის, ბიოკ უკეთ მოუფრთხილდეთ თითოეულ ყველაზე ქირავნელს, რომ უზრუნველყოს თავისი საკუთარი LLM დამდგენი. BYOK გასაღებები მართავს ადმინისტრაციული API–ს საშუალებით:
GET /v1/admin/byok
POST /v1/admin/byok
BYOK გასაღებები ინახება დამუშავებულ საცავში, როგორც ნებისმიერი სხვა იდენტიფიკაციის მონაცემები — ისინი არასდროს ინახება ჟურნალებში და არ ჩანს მოდელის კონტექსტში. ეს საშუალებას აძლევს მრავალმომხმარებლიან გადაწყვეტილებებს შენახონ თითოეული კლიენტის მოდელები. ბილინგი და მთავარი მასალა სრულიად განცალკევებულია.
სხვა პარამეტრებსა და BYOK-ს შორის არჩევანი
- გამოიყენეთ
AIHUMMER_OPENAI_*/AIHUMMER_LLM_*პარამეტრები თვის ერთმომხმარებლიანი ან სტანდარტული მოდელი, რომელსაც უნდა გამოიყენოს მთელი გეინი. - გამოიყენება ბიოკ როდესაც სხვადასხვა ქირავნიანმა უნდა გამოიყენოს განსხვავებული გასაღები, განსხვავებული მომწოდებლები ან აღინიშნება ცალკე საფასურის ანგარიშში — თითოეული ქირავნილისთვის კლავიში იცვლება ნაგულისხმევი მნიშვნელობით ამ ვალდებულებისთვის.
[!TIP] რადგან ნებისმიერი OpenAI-API-სტანდარტული სერვერის წერტილი qəbulებულია, თქვენ შეგიძლიათ მიუთითოთ
AIHUMMER_OPENAI_BASE_URLლოკალურ სერვერზე მოდელი, OpenRouter ან Gemini OpenAI-სთან თავსებადი საბოლოო წერტილი AiHummer-ში სხვა არაფრის შეცვლის გარეშე.
როგორ ეს დაკავშირებულია მოდელის წვდომის დანარჩენ ნაწილთან
BYOK კლავიშები არის მოდელის ავტოდატები და ინახებიან იგივე დაშიფრული საცავში, სადაც კავშირები და საერთო/პირადი საიდუმლოებები. მასშტაბის სხვაობა: BYOK პასუხობს რომელი მodelი და გასაღები იყენებს ეს დამქირავებელი, იმ დროს როგორიც პირადი და საერთო აირჩევს პასუხებს რომელი მომხმარებლის მონაცემებით ხდება ამ ინსტრუმენტის გამოძახება.
სად შემდეგ?
- პირადი და საერთო სერთიფიკატები
- კონექტები (OAuth2 თითოეული მომხმარებლისთვის)
- შესავალი — მოდელები გადახდის გარეშე პრინციპი კონტექსტში.