betool מאפשרת לכם לבחור, מודל אחר מודל, בין שתי דרכים לגשת ל-LLM:
- מודלים מנוהלים — מפעיל הפלטפורמה מעמיד לרשותכם חשבונות LLM משותפים. אתם משתמשים בהם מבלי לחבר מפתח; הצריכה מחויבת בקרדיטים, לפי תעריף לכל token קלט ופלט. אף מודל אינו חינמי.
- BYOK (Bring Your Own Key) — אתם מזינים את מפתחות ה-API שלכם (או את כתובת ה-URL של המודל הפרטי שלכם). עלויות ה-inference מחויבות ישירות על ידי הספק שלכם; betool אינה גובה דבר על ה-tokens.
בסביבה מפוקחת, BYOK היא האפשרות המומלצת: החוזה שלכם (DPA) עם הספק נשאר השרשרת החוזית היחידה, החיוב שלכם קריא שורה אחר שורה, ואתם מבטלים את המפתח בלי לעבור דרכנו. ראו BYOK — למה זה בלתי-מתפשר בסביבה מפוקחת.
ספקים נתמכים
| ספק | מודלים | מצב |
|---|---|---|
| OpenAI | דור GPT הנוכחי | API ציבורי |
| Anthropic | Claude (Opus, Sonnet, Haiku) | API ציבורי |
| Gemini | API ציבורי | |
| Ollama | מודלים open-weight, מודלים מותאמים | Self-hosted, או Ollama Cloud |
| LM Studio | מודלים מקומיים | Self-hosted |
| Endpoint תואם OpenAI | vLLM ושרתים אחרים החושפים את ה-API של OpenAI | Self-hosted (URL מותאם) |
קטלוג המודלים המנוהלים עוקב אחר הדור הנוכחי של Claude, GPT ו-Gemini, וכן אחר מודלים open-weight המוגשים על ידי Ollama Cloud (Kimi, GLM…). הרשימה המדויקת והעדכנית מוצגת בבורר המודלים בממשק הניהול.
שלב 1 — קבלת מפתח ה-API
עקבו אחר ההוראות של הספק שלכם:
- OpenAI → platform.openai.com/api-keys
- Anthropic → console.anthropic.com/settings/keys
- Google → aistudio.google.com
- Ollama / LM Studio / endpoint תואם OpenAI → כתובת ה-URL של המופע שלכם (לדוגמה
http://ollama.internal:11434)
שלב 2 — רישום המפתח ב-betool
- בממשק הניהול, פתחו הגדרות → ספקים.
- לחצו על + הוספת חשבון.
- בחרו את הספק, הדביקו את מפתח ה-API (וכתובת ה-URL עבור מודל self-hosted).
- תנו שם קריא (לדוגמה «OpenAI - prod»).
המפתח לעולם אינו מוחזר על ידי ה-API לאחר שנרשם. אם עליכם לחדשו, תצטרכו לעדכנו ידנית. נתיבי GET מחזירים רק has_api_key: true | false.
שלב 3 — בחירת המודלים שלכם
כל צומת agent ב-pipelines שלכם מפנה לאחר מכן לחשבון ולמודל שבהם יש להשתמש — אותו חשבון יכול לשרת מספר מודלים.
לדוגמה, חשבון OpenAI יכול לשרת מודל high-end לסוכנים הראשיים ומודל קל יותר לסיווג מהיר.
חשבונות משותפים
חשבונות ה-LLM המשותפים (דגל is_shared) הם אלה הנושאים את המודלים המנוהלים. הם גלויים לארגונים מבלי לחבר מפתח, והרזולוציה מעדיפה תמיד את החשבונות שלכם (own > shared).
Pricing
ראו תעריפים לפרטי ה-metering. תזכורת: במצב BYOK, אנו איננו מחייבים על tokens של LLM — רק על התזמור שלנו. במודל מנוהל, ה-tokens מחויבים בקרדיטים.