betool lässt Sie Modell für Modell zwischen zwei Arten wählen, auf ein LLM zuzugreifen:
- Managed Modelle — der Betreiber der Plattform stellt geteilte LLM-Konten bereit. Sie nutzen sie, ohne einen Schlüssel anzubinden; der Verbrauch wird in Credits abgebucht, nach einem Tarif pro Eingabe- und Ausgabe-Token. Kein Modell ist kostenlos.
- BYOK (Bring Your Own Key) — Sie hinterlegen Ihre eigenen API-Schlüssel (oder die URL Ihres privaten Modells). Die Inferenzkosten werden direkt von Ihrem Anbieter abgerechnet; betool erhebt nichts auf die Tokens.
In regulierten Umgebungen ist BYOK die empfohlene Option: Ihr Vertrag (AVV) mit dem Anbieter bleibt die einzige Vertragskette, Ihre Abrechnung ist Posten für Posten nachvollziehbar, und Sie widerrufen den Schlüssel, ohne über uns gehen zu müssen. Siehe BYOK — warum es in regulierten Branchen nicht verhandelbar ist.
Unterstützte Anbieter
| Anbieter | Modelle | Modus |
|---|---|---|
| OpenAI | Aktuelle GPT-Generation | Öffentliche API |
| Anthropic | Claude (Opus, Sonnet, Haiku) | Öffentliche API |
| Gemini | Öffentliche API | |
| Ollama | Open-Weight-Modelle, eigene Modelle | Selbst gehostet oder Ollama Cloud |
| LM Studio | Lokale Modelle | Selbst gehostet |
| OpenAI-kompatibler Endpunkt | vLLM und andere Server, die die OpenAI-API bereitstellen | Selbst gehostet (eigene URL) |
Der Katalog der managed Modelle folgt der aktuellen Generation von Claude, GPT und Gemini sowie Open-Weight-Modellen, die über Ollama Cloud bereitgestellt werden (Kimi, GLM…). Die genaue, aktuelle Liste ist in der Modellauswahl des Adminbereichs sichtbar.
Schritt 1 — Ihren API-Schlüssel abrufen
Folgen Sie dem Verfahren Ihres Anbieters:
- OpenAI → platform.openai.com/api-keys
- Anthropic → console.anthropic.com/settings/keys
- Google → aistudio.google.com
- Ollama / LM Studio / OpenAI-kompatibler Endpunkt → die URL Ihrer Instanz (z. B.
http://ollama.internal:11434)
Schritt 2 — Den Schlüssel in betool registrieren
- Öffnen Sie im Adminbereich Einstellungen → Provider.
- Klicken Sie auf + Konto hinzufügen.
- Wählen Sie den Anbieter aus und fügen Sie den API-Schlüssel ein (sowie die URL bei einem selbst gehosteten Modell).
- Geben Sie ihm einen lesbaren Namen (z. B. „OpenAI - prod“).
Der Schlüssel wird nach dem Speichern niemals von der API zurückgegeben. Wenn Sie ihn neu generieren müssen, müssen Sie ihn manuell aktualisieren. GET-Routen geben lediglich has_api_key: true | false zurück.
Schritt 3 — Ihre Modelle auswählen
Jeder Agent-Knoten Ihrer Pipelines referenziert anschließend das zu verwendende Konto und Modell — dasselbe Konto kann mehrere Modelle bereitstellen.
Ein OpenAI-Konto kann beispielsweise ein High-End-Modell für die primären Agents und ein leichteres Modell für die schnelle Klassifizierung bereitstellen.
Geteilte Konten
Die geteilten LLM-Konten (Flag is_shared) sind diejenigen, die die managed Modelle tragen. Sie sind für die Organisationen sichtbar, ohne dass ein Schlüssel angebunden werden muss, und die Auflösung bevorzugt stets Ihre eigenen Konten (own > shared).
Preise
Details zur Abrechnung finden Sie unter Preise. Zur Erinnerung: Im BYOK-Modus berechnen wir keine LLM-Tokens — nur unsere Orchestrierung. Bei einem managed Modell werden die Tokens in Credits abgebucht.