betool позволяет выбирать, модель за моделью, между двумя способами доступа к LLM:
- Управляемые модели — оператор платформы предоставляет общие учётные записи LLM. Вы используете их без подключения ключа; потребление списывается в кредитах по тарифу за входные и выходные токены. Бесплатных моделей нет.
- BYOK (Bring Your Own Key) — вы указываете собственные API-ключи (или URL вашей частной модели). Расходы на инференс выставляются напрямую вашим поставщиком; betool ничего не взимает с токенов.
В регулируемой среде рекомендуется BYOK: ваш договор (DPA) с поставщиком остаётся единственной договорной цепочкой, ваши счета читаются построчно, и вы отзываете ключ, не обращаясь к нам. См. BYOK — почему в регулируемых отраслях это не обсуждается.
Поддерживаемые поставщики
| Поставщик | Модели | Режим |
|---|---|---|
| OpenAI | Актуальное поколение GPT | Публичный API |
| Anthropic | Claude (Opus, Sonnet, Haiku) | Публичный API |
| Gemini | Публичный API | |
| Ollama | Модели open-weight, пользовательские модели | Self-hosted или Ollama Cloud |
| LM Studio | Локальные модели | Self-hosted |
| Endpoint, совместимый с OpenAI | vLLM и другие серверы, предоставляющие API OpenAI | Self-hosted (пользовательский URL) |
Каталог управляемых моделей следует актуальному поколению Claude, GPT и Gemini, а также моделям open-weight, обслуживаемым Ollama Cloud (Kimi, GLM…). Точный актуальный список виден в селекторе моделей панели администрирования.
Шаг 1 — Получите свой API-ключ
Следуйте процедуре вашего поставщика:
- OpenAI → platform.openai.com/api-keys
- Anthropic → console.anthropic.com/settings/keys
- Google → aistudio.google.com
- Ollama / LM Studio / endpoint, совместимый с OpenAI → URL вашего экземпляра (например,
http://ollama.internal:11434)
Шаг 2 — Зарегистрируйте ключ в betool
- В панели администрирования откройте Параметры → Providers.
- Нажмите + Добавить аккаунт.
- Выберите поставщика, вставьте API-ключ (и URL для self-hosted модели).
- Задайте понятное имя (например, «OpenAI - prod»).
После сохранения ключ никогда не возвращается через API. Если понадобится его перегенерировать, вам придётся обновить его вручную. Маршруты GET возвращают только has_api_key: true | false.
Шаг 3 — Выберите свои модели
Каждый узел agent ваших pipelines затем ссылается на учётную запись и модель, которую нужно использовать, — одна и та же учётная запись может обслуживать несколько моделей.
Например, одна учётная запись OpenAI может обслуживать модель высшего класса для основных agents и более лёгкую модель для быстрой классификации.
Общие учётные записи
Общие учётные записи LLM (флаг is_shared) — это те, на которых работают управляемые модели. Они видны организациям без подключения ключа, а при разрешении всегда приоритет отдаётся вашим собственным учётным записям (own > shared).
Тарификация
Подробности о метеринге смотрите в разделе Тарифы. Напоминание: в режиме BYOK мы не взимаем плату за токены LLM — только за нашу оркестрацию. На управляемой модели токены списываются в кредитах.