Dokumentation

Einen LLM-Schlüssel anbinden

Natives BYOK — OpenAI, Anthropic, Mistral oder ein privates Modell (Ollama, vLLM) anbinden.

Einen LLM-Schlüssel anbinden

betool ist nativ BYOK (Bring Your Own Key): Sie stellen Ihre eigenen API-Schlüssel bereit, und die Inferenzkosten werden direkt von Ihrem Anbieter abgerechnet. Wir berechnen nur unsere Orchestrierung.

Unterstützte Anbieter

AnbieterModelleModus
OpenAIGPT-4o, GPT-4.1, o-SerieÖffentliche API
AnthropicClaude Opus / Sonnet / HaikuÖffentliche API
MistralLarge, Medium, SmallÖffentliche API
OllamaLlama, Qwen, eigene ModelleSelbst gehostet
vLLMJedes kompatible ModellSelbst gehostet, Multi-GPU
Azure OpenAIVerwaltete DeploymentsPrivate Kunden-Cloud
AWS BedrockAnthropic-, Mistral-, AWS-ModellePrivate Kunden-Cloud

Schritt 1 — Ihren API-Schlüssel abrufen

Folgen Sie dem Verfahren Ihres Anbieters:

Schritt 2 — Den Schlüssel in betool registrieren

  1. Öffnen Sie im Adminbereich Administration → Modelle.
  2. Klicken Sie auf Ein LLM-Konto hinzufügen.
  3. Wählen Sie den Anbieter aus und fügen Sie den API-Schlüssel ein (sowie die URL für Ollama / vLLM).
  4. Geben Sie ihm einen lesbaren Namen (z. B. „OpenAI – prod").

Der Schlüssel wird nach dem Speichern niemals von der API zurückgegeben. Wenn Sie ihn neu generieren müssen, müssen Sie ihn manuell aktualisieren. GET-Routen geben lediglich has_api_key: true | false zurück.

Schritt 3 — Ihre Modelle auswählen

Erstellen Sie unter Administration → Modelle ein Modell, indem Sie Ihr Konto und den Namen des Remote-Modells auswählen (z. B. gpt-4o, claude-opus-4-7). Dieses betool-Modell referenzieren Sie anschließend in Ihren Pipelines.

Dasselbe Konto kann mehrere Modelle betreiben: Ein OpenAI-Konto kann beispielsweise gpt-4o (für primäre Agents) und gpt-4o-mini (für schnelle Klassifizierung) bereitstellen.

Geteilte Modelle (Enterprise)

Im Enterprise-Tarif kann der Betreiber Ihrer Instanz geteilte Modelle auf Plattformebene konfigurieren. Sie sind für alle Ihre Organisationen sichtbar, ohne dass Schlüssel einzeln angebunden werden müssen.

Preise

Details zur Abrechnung finden Sie unter Preise. Zur Erinnerung: Im BYOK-Modus berechnen wir keine LLM-Tokens — nur unsere Orchestrierung.

Nächster Schritt

Überblick über die Eingangskanäle →