Sin censura y sin perder inteligencia: Abliteración ortogonal de pesos y verificación de 6 vectores en bf16.ai

TL;DR · Calidad de Modelos y Verificación

• El origen del "daño cerebral": El ajuste fino destructivo y la cuantización encubierta (Q3/NVFP4) con recorte de contexto a 64K arruinan las matemáticas y las llamadas JSON.
• Proyección ortogonal de rango 1: Elimina únicamente la dirección 1D de rechazo r̂ (W' = W - r̂(r̂ᵀW)), preservando intacto el subespacio de programación y lógica.
• Puerta de verificación obligatoria en PostgreSQL: Un endpoint solo pasa a estado activo en bf16.ai tras superar una verificación de 6 vectores con semilla CSPRNG, y cualquier fallo upstream previo al primer token libera automáticamente el 100% del saldo reservado.

1. El secreto sucio del mercado open-weight: cuantización silenciosa y recorte de contexto

Muchos desarrolladores desconfiaban de los modelos uncensored tras sufrir JSON malformados o pérdida de memoria en contextos largos. La causa real suele ser un SFT agresivo o proveedores que anuncian 1M de contexto mientras sirven pesos Q3_K_M truncados a 64K, algo que queda expuesto al instante con pruebas canario temperature=0:

[bf16-verifier] Probing candidate upstream endpoint: "provider-x/flagship-abliterated-1m"
[bf16-verifier] V1 Tokenizer BPE boundary ............ PASS
[bf16-verifier] V5 Dual-use low-refusal fidelity ..... PASS
[bf16-verifier] V2 Symbolic Math Canary (temp=0) ..... FAIL (drift detected: NVFP4/Q3 quant!)
[bf16-verifier] V3 Passkey NIAH @ 196,608 tokens ..... FAIL (silent middle-out truncation >64K)
[bf16-verifier] V4 Parallel JSON Tool Grammar ........ FAIL (unescaped trailing comma)
[bf16-verifier] Verdict: FAIL (3 vectors below their floor). Endpoint REJECTED by DB CHECK constraint.

2. Por qué la abliteración ortogonal de rango 1 conserva intacto el código y las herramientas

El comportamiento de rechazo en Transformers está mediado principalmente por un único vector unidimensional r̂ en el flujo residual. Al proyectar ortogonalmente r̂ fuera de las matrices de escritura en float32, las miles de dimensiones restantes dedicadas a matemáticas y gramática JSON permanecen intactas. Además, bf16.ai impone en base de datos una puerta de 6 vectores —matemáticas simbólicas a T=0, passkey a 200K+, gramática JSON paralela y pruebas de bajo rechazo— antes de activar cualquier endpoint.

3. Álgebra lineal bajo el capó y consulta del catálogo en bf16.ai

Así se implementa en PyTorch la proyección ortogonal de rango 1 sin degradar los subespacios ortogonales:

import torch

def orthogonalize_refusal_direction(weight: torch.Tensor, refusal_dir: torch.Tensor) -> torch.Tensor:
    """
    Rank-1 orthogonal projection in bfloat16/float32 (Arditi et al. formulation):
    Removes ONLY the 1D refusal mediator subspace r_hat from residual-writing matrix W,
    leaving the (d_model - 1)-dimensional reasoning & tool-calling subspace untouched.
    """
    r_hat = refusal_dir / torch.linalg.norm(refusal_dir)
    r_hat = r_hat.to(dtype=torch.float32, device=weight.device)
    w_fp32 = weight.to(torch.float32)
    # W' = W - (W @ r_hat)[:, None] * r_hat[None, :]  (for output-feature projection)
    projection = torch.outer(r_hat, r_hat @ w_fp32)
    return (w_fp32 - projection).to(weight.dtype)

Cada ficha en bf16.ai/models/<slug> muestra la ventana de contexto, los precios y las condiciones de Retención Cero de Prompts (ZDR) del modelo, y puedes consultar ese mismo catálogo por API con GET /v1/models:

# Inspect context windows & pricing before routing agent jobs
curl -sS https://api.bf16.ai/v1/models \
  -H "Authorization: Bearer $BF16_API_KEY" | jq '.data[] | {
    id,
    context_window,
    pricing_usd_per_1m
  }'

# Route via bf16/auto with a deterministic output price ceiling ($1.50 / 1M max)
curl -sS https://api.bf16.ai/v1/chat/completions \
  -H "Authorization: Bearer $BF16_API_KEY" \
  -H "X-BF16-Max-Price-Per-M-Output: 1.50" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "bf16/auto:coding",
    "temperature": 0,
    "messages": [{"role": "user", "content": "Emit a strict JSON schema patch for session fixation."}]
  }'

4. Los 3 modelos de 1M de contexto en bf16.ai (paridad oficial)

En lugar de listar decenas de fusiones experimentales sin auditar, bf16.ai ofrece 3 modelos de producción con 1M de contexto, todos sujetos a la misma puerta de 6 vectores y alineados con las tarifas oficiales:

ID de Modelo	Precio Retail (In / Caché / Out 1M)	Fortaleza Principal
deepseek/deepseek-v4.1-flash-abliterated	$0.30 / $0.05 / $1.20	Loops 24/7 en MausBot y CLI
zai-org/glm-5.3-flash-abliterated	$0.24 / $0.06 / $1.00	Visión + Texto para Browser-Use y ETL
zai-org/glm-5.3-abliterated	$1.40 / $0.30 / $4.40	Parches SAST profundos y diffs de código complejos

5. 4 garantías contables y de enrutamiento auditables

1. Cargo $0.00 ante fallos previos al primer token gracias al libro mayor en nano-USD (Hold -> Stream -> Settle).
2. Prueba tus propios tests canario temperature=0 en /playground con el crédito gratuito de $1.00.
3. Fija techos de precio con X-BF16-Max-Price-Per-M-Output.
4. Catálogo /v1/models limpio y libre de modelos sintéticos de prueba.