BYOK — warum es in regulierten Branchen nicht verhandelbar ist

KI-Anbieter bieten typischerweise zwei Abrechnungsmodelle an: einen gemeinsamen Pool, bei dem Sie eine Pauschale zahlen, die die Tokens abdeckt, oder einen BYOK-Modus, bei dem Sie Ihren eigenen API-Schlüssel bereitstellen und direkt an Ihren Provider zahlen.

Im Standard-SaaS ist der gemeinsame Pool praktisch. In regulierten Umgebungen ist er unhaltbar.

Das Problem mit dem gemeinsamen Pool

Wenn Ihr Anbieter Ihren OpenAI-/Anthropic-/Mistral-Schlüssel all seinen Kunden über einen einzigen Master-Schlüssel zur Verfügung stellt:

1. Sie verlieren den buchhalterischen Detailgrad. Es wird unmöglich, Ihrem Prüfer genau nachzuweisen, wie viele Tokens Sie beim Provider verbraucht haben — Sie erhalten eine aggregierte Rechnung.
2. Sie verlieren die Vertragskette. Ihre Daten fließen durch das Konto des Anbieters. Der Auftragsverarbeitungsvertrag (AVV) mit OpenAI deckt Sie nicht mehr direkt ab.
3. Sie verlieren die Kontrolle über das Modell. Der Anbieter kann aus Kostengründen stillschweigend von Modell A zu Modell B wechseln. Ihre Benchmarks regredieren und Sie wissen nicht, warum.
4. Sie verlieren den sofortigen Widerruf. Im Falle eines Vorfalls können Sie den Schlüssel nicht widerrufen, ohne zuerst den Anbieter zu fragen.

Was BYOK garantiert

Mit BYOK:

• Ihre Prompts und Completions fließen direkt zwischen Ihrem Provider-Konto und betool — nicht über ein gepooltes Drittkonto.
• Ihr AVV mit dem Provider bleibt die einzige Vertragskette. Keine undurchsichtige Unterauftragsverarbeitung.
• Ihre Abrechnung ist transparent: Der Provider stellt Ihnen in Rechnung, Sie sehen jeden Posten. betool berechnet Ihnen nur die Orchestrierung.
• Ihr Widerruf ist sofort: Generieren Sie den Schlüssel beim Provider neu, und das Modell wird innerhalb von Sekunden unzugänglich.

Die Option des privaten Modells (selbst gehostet)

Für Organisationen mit den strengsten Anforderungen (Banken, Verteidigung, Gesundheitswesen) reicht selbst BYOK nicht aus: Das Senden Ihrer Prompts an OpenAI oder Anthropic stellt weiterhin einen Transfer in die Vereinigten Staaten dar.

Die Lösung ist ein privates Modell:

• Ollama auf Ihrer GPU, für Open-Source-Modelle (Llama, Qwen, Mistral, DeepSeek).
• vLLM auf einem GPU-Cluster für den Hochdurchsatz-Produktivbetrieb.
• Azure OpenAI / AWS Bedrock, wenn Sie einen Private-Cloud-Vertrag haben.

Ihre Prompts verlassen niemals Ihren Perimeter. Die Latenz liegt unter Ihrer Kontrolle. Die Compliance ist vollständig.

Was es kostet

Der Mythos lautet, das Selbsthosten eines LLM koste ein Vermögen. In Wirklichkeit gilt für moderne Open-Source-Modelle der Klasse Llama 3 / Qwen 2:

• Ein Server mit zwei A100-80-GB-GPUs kann ein Llama-3 70B im Produktivbetrieb bedienen.
• Bei moderater Nutzung (einige Tausend Austausche pro Tag) genügt eine einzelne A6000-GPU, um ein 32B-Modell mit sub-sekündlicher Latenz zu bedienen.
• Monatliche Amortisationskosten: ~2.000 bis 5.000 $, abhängig von Ihrer Beschaffungsstrategie (Miete vs. Kauf).

Verglichen mit einer äquivalenten OpenAI-Ausgabe über 12 Monate amortisiert sich die Investition bei ernstzunehmenden Volumina innerhalb weniger Monate — und der ROI kippt vollständig, wenn Sie Souveränitätsanforderungen haben, die OpenAI inakzeptabel machen.

Unsere Wahl

betool ist seit dem ersten Tag BYOK-nativ. Sie können die Plattform nicht nutzen, ohne Ihre eigenen Schlüssel anzubinden. Das ist beabsichtigt:

• Der gemeinsame Pool erzeugt Compliance-Schulden, die wir für unsere regulierten Kunden zu übernehmen ablehnen.
• Die Asymmetrie zwischen „kleinen Kunden“ und „großen Kunden“ bei der Souveränität ist nicht akzeptabel.
• Die Erfahrung, die wir schaffen wollen — „Ich kann genau sehen, was ich verbrauche, wo und mit wem“ — ist nur mit BYOK möglich.

Es fügt dem Onboarding einen Schritt hinzu (15 Minuten, um einen Schlüssel bei Ihrem Provider abzurufen). Es ist eine Investition, die sich mit der Zeit auszahlt.