Skip to main content
All posts
KI-Agenten

Warum selbst Grok Bot mitten im Workflow abbricht — 24/7-KI-Mitarbeiter mit MausBot + bf16.ai

Schon 3 % Fehlalarme pro Schritt drücken die Erfolgsquote eines 30-stufigen Agenten-Laufs auf 40 %. So kombinierst du Open-Source-MausBot mit den abliterierten Modellen auf bf16.ai — inklusive Kostenrechnung für einen 30-Schritte-Lauf zu Listenpreisen.

TL;DR · Engineering-Kernpunkte

  • Potenzierte Abbruchrate: Selbst bei nur 3 % Fehlverweigerung pro Einzelschritt überlebt ein 30-Schritte-Workflow nur zu (0,97)^30 = 40,1%. Deshalb scheitert Grok Bot trotz lockerem Chat regelmäßig im Nachtbetrieb.
  • Lokale Orchestrierung + abliterierte Gewichte: MausBot (OpenMausBot, Apache-2.0) hält Sessions und Dateien lokal; als base_url dient https://api.bf16.ai/v1 (deepseek/deepseek-v4.1-flash-abliterated).
  • Offizielle Herstellerpreise + 1M-Prefix-Cache: Bei $0.30 / 1M Input, $0.05 / 1M Cache und $1.20 / 1M Output kommt ein 30-Schritte-Lauf wie der unten durchgerechnete auf $0.0094.

1. Fehleranalyse um 03:14 Uhr: Warum auch „lockere“ Chatbots Agenten-Schleifen sprengen

Viele Entwicklerteams testen Grok Bot als digitalen Mitarbeiter, weil er im Einzelchat seltener belehrt als Claude oder GPT. Im echten 30-stufigen Unattended-Betrieb — Staging-Logins, Test-Steuernummern in Onboarding-Formularen, AGB-Checkboxen oder das Bereinigen von Wettbewerber-Tabellen — schlagen Sicherheitsfilter jedoch weiterhin fehl.

Bei nur 3 % Fehlalarm pro Schritt sinkt die Durchlaufwahrscheinlichkeit über 30 Schritte auf (1 - 0,03)^30 = 40,1%. Bricht Schritt 14 mit einer Belehrung statt eines validen JSON-tool_calls-Objekts ab, stirbt die gesamte Pipeline:

[03:14:08] [mausbot:ops-worker] Step 13/30 OK -> Navigated to https://staging-partner.internal/onboarding/step-4
[03:14:09] [mausbot:ops-worker] Step 14/30 -> Action: check("#accept-msa-checkbox") + fill("#tax-id", env.STAGING_EIN)
[03:14:11] [upstream:cloud-wrapper] STOP_REASON=refusal
  "I cannot click legal binding agreements, submit tax identification numbers, or complete automated account verification steps on your behalf. Please review and submit the form manually."
[03:14:11] [mausbot:supervisor] ERROR: ToolCallExpectedError (received text lecture instead of JSON tool_calls)
[03:14:11] [mausbot:supervisor] Workflow aborted at step 14/30. Downstream Slack report & CSV reconciliation skipped.

2. Architektur: Lokaler MausBot-Control-Plane + bf16.ai Abliterated-Inferenz

Produktionsreife Agenten trennen deterministische Berechtigungen sauber von der Modell-Inferenz:

  1. MausBot lokal (Apache-2.0): Speichert Gedächtnis, Browser-Profile und Zugangsdaten ausschließlich auf deiner eigenen Hardware.
  2. Low-Refusal-Inferenz auf Gewichtsebene bei bf16.ai: deepseek/deepseek-v4.1-flash-abliterated sowie das multimodale zai-org/glm-5.3-flash-abliterated (Vision + Text) entfernen den Verweigerungsvektor orthogonal in den Gewichten (1M Kontext). Jeder Endpunkt muss vor der Freischaltung ein 6-Vektor-Verifikations-Gate bestehen, das JSON-Tool-Schemas, Mathe-Logik und den Kontext-Recall prüft.

3. Produktions-Konfiguration und erzwungene Tool-Calls

api.bf16.ai/v1 ist vollständig OpenAI- und Anthropic-kompatibel. Dateisystem- und Domain-Grenzen werden deterministisch in [sandbox] erzwungen:

# ~/.mausbot/agents/ops-worker.toml
[agent]
name = "ops-worker"
role = "Autonomous Operations, Staging QA & Vendor Onboarding Worker"
max_steps = 45
step_timeout_ms = 45000
require_json_tool_calls = true

[provider]
type = "openai-compatible"
base_url = "https://api.bf16.ai/v1"
api_key_env = "BF16_OPS_WORKER_KEY" # Dedicated per-bot sk-bf16-v1-* key
model = "deepseek/deepseek-v4.1-flash-abliterated"
vision_fallback_model = "zai-org/glm-5.3-flash-abliterated"
temperature = 0.15
max_tokens = 8192

[sandbox]
allowed_fs_roots = ["~/mausbot-workspaces/ops-worker"]
allowed_browser_domains = ["*.internal", "*.staging.example.com", "dashboard.stripe.com"]
require_human_approval_tools = ["wire_transfer", "production_db_drop", "delete_account"]

In TypeScript-Supervisoren kombiniert man tool_choice: "required" mit X-BF16-Max-Price-Per-M-Output und einem dedizierten sk-bf16-v1--Schlüssel pro Bot:

import OpenAI from 'openai';

const bf16 = new OpenAI({
  baseURL: 'https://api.bf16.ai/v1',
  apiKey: process.env.BF16_OPS_WORKER_KEY, // Scoped to $5.00/day in bf16.ai/dashboard/keys
  defaultHeaders: {
    // Hard unit-price ceiling: never route to an endpoint above $1.50 / 1M output tokens
    'X-BF16-Max-Price-Per-M-Output': '1.50',
  },
});

export async function dispatchMausBotStep(messages: OpenAI.ChatCompletionMessageParam[], tools: OpenAI.ChatCompletionTool[]) {
  const res = await bf16.chat.completions.create({
    model: 'deepseek/deepseek-v4.1-flash-abliterated',
    messages,
    tools,
    tool_choice: 'required', // Guarantees structured tool execution without prose filler
    temperature: 0.1,
  });

  const call = res.choices[0]?.message?.tool_calls?.[0];
  if (!call) {
    throw new Error(`Unexpected empty tool_call on request ${res.id}`);
  }
  return { call, usage: res.usage };
}

Live-Ansicht der bf16.ai-Konsole (/dashboard/keys): Dedizierter Bot-Key mit $5.00 Tageslimit, 60 RPM und CIDR-Allowlist.

▲ Live-Ansicht der bf16.ai-Konsole (/dashboard/keys): Dedizierter Bot-Key mit $5.00 Tageslimit, 60 RPM und CIDR-Allowlist.

4. Token-Ökonomie eines 30-Schritte-Laufs auf Herstellerpreis-Niveau

bf16.ai orientiert sich direkt an den offiziellen Standardpreisen der Modellhersteller. Durch Prefix-Caching ($0.05–$0.06 / 1M) kostet ein 30-Schritte-Lauf mit 100.000 kumulierten Input-Token (davon 88 % Cache-Treffer) und 1.200 Output-Token für Tool-Calls weniger als einen Cent ($0.0094):

bf16.ai Modell-IDModalitätKontextInput / Cache / Output (pro 1M)Ideale MausBot-Rolle
deepseek/deepseek-v4.1-flash-abliteratedText + Tools1M$0.30 / $0.05 / $1.20Schnelle CLI-, Formular- & ETL-Loops
zai-org/glm-5.3-flash-abliteratedVision + Text1M$0.24 / $0.06 / $1.00Visuelle Modals, Screenshots & UI-QA
zai-org/glm-5.3-abliteratedText + Tools1M$1.40 / $0.30 / $4.40Supervisor-Planung, Refactoring & SAST

5. 4 verbindliche Produktions-Leitplanken vor dem Dauerbetrieb

  1. Eigener API-Key pro Bot mit Tageslimit in USD: Setze in bf16.ai/dashboard/keys ein $5.00-Tageslimit gegen Endlosschleifen.
  2. Sicherheit gehört in die Sandbox, nicht ins RLHF: Kritische Aktionen über require_human_approval_tools absichern.
  3. Niedrige temperature (0.1–0.2) für Tool-Schleifen: Verhindert Schema- und Selektor-Drift.
  4. Flash für Iterationen, Flagship für Architektur: 90 % der Schritte laufen optimal auf deepseek-v4.1-flash-abliterated, komplexe Eskalationen auf glm-5.3-abliterated.