Подключение ключа LLM
betool использует нативный BYOK (Bring Your Own Key): вы предоставляете собственные API-ключи, и расходы на инференс выставляются напрямую вашим поставщиком. Мы взимаем плату только за нашу оркестрацию.
Поддерживаемые поставщики
| Поставщик | Модели | Режим |
|---|---|---|
| OpenAI | GPT-4o, GPT-4.1, o-series | Публичный API |
| Anthropic | Claude Opus / Sonnet / Haiku | Публичный API |
| Mistral | Large, Medium, Small | Публичный API |
| Ollama | Llama, Qwen, пользовательские модели | Self-hosted |
| vLLM | Любая совместимая модель | Self-hosted multi-GPU |
| Azure OpenAI | Управляемые развёртывания | Частное облако клиента |
| AWS Bedrock | Модели Anthropic, Mistral, AWS | Частное облако клиента |
Шаг 1 — Получите свой API-ключ
Следуйте процедуре вашего поставщика:
- OpenAI → platform.openai.com/api-keys
- Anthropic → console.anthropic.com/settings/keys
- Mistral → console.mistral.ai
- Ollama / vLLM → URL вашего экземпляра (например,
http://ollama.internal:11434)
Шаг 2 — Зарегистрируйте ключ в betool
- В панели администрирования откройте Администрирование → Модели.
- Нажмите Добавить учётную запись LLM.
- Выберите поставщика, вставьте API-ключ (и URL для Ollama / vLLM).
- Задайте понятное имя (например, «OpenAI - prod»).
После сохранения ключ никогда не возвращается через API. Если понадобится его перегенерировать, вам придётся обновить его вручную. Маршруты GET возвращают только has_api_key: true | false.
Шаг 3 — Выберите свои модели
В разделе Администрирование → Модели создайте модель, выбрав свою учётную запись и имя удалённой модели (например, gpt-4o, claude-opus-4-7). Именно эту модель betool вы будете указывать в своих pipelines.
Одна и та же учётная запись может обслуживать несколько моделей: например, одна учётная запись OpenAI может обслуживать gpt-4o (для основных agents) и gpt-4o-mini (для быстрой классификации).
Общие модели (Enterprise)
В тарифном плане Enterprise оператор вашего экземпляра может настроить общие модели на уровне платформы. Они видны всем вашим организациям без необходимости подключать ключи по отдельности.
Тарификация
Подробности о метеринге смотрите в разделе Тарифы. Напоминание: в режиме BYOK мы не взимаем плату за токены LLM — только за нашу оркестрацию.