Multi-Model Routing y Orquestación — El Cerebro Detrás del Agente

1.Introducción — ¿Por qué Multi-Model Routing?

No existe un modelo ideal para toda tarea. Un mismo agente puede necesitar un frontier model para planificación compleja, un modelo rápido para exploración, y un modelo barato para procesamiento batch. Multi-Model Routing es el sistema nervioso que conecta cada solicitud con el modelo y provider óptimos según tarea, costo y latencia.

¿Por qué es necesario?

2.OpenCode — 75+ Providers, Per-Agent, Fallback Plugin

OpenCode ofrece el ecosistema de providers más amplio del mercado: 75+ providers via AI SDK + Models.dev. La configuración se realiza en opencode.json con formato provider_id/model_id.

Providers Soportados

OpenAI, Anthropic, Google, AWS Bedrock, Azure, OpenRouter, Ollama, LM Studio, Groq, DeepSeek, Together AI, Fireworks AI, GitHub Copilot, GitLab Duo, Hugging Face (17+ providers), Cloudflare AI, y cualquier API compatible con OpenAI via @ai-sdk/openai-compatible.

Modelo por Agente

{
  "agent": {
    "plan": { "model": "anthropic/claude-haiku-4-20250514" },
    "build": { "model": "anthropic/claude-sonnet-4-20250514" }
  }
}

Los subagentes heredan el modelo del invocador si no tienen model explícito. La task tool NO permite especificar modelo por invocación.

Model Fallback Plugin

opencode-model-fallback@1.0.6 es un plugin externo (no nativo) que escucha hooks chat.message, event, tool.execute.after.

Detección de errores: 429, 402, 413, 500, 502, 503, 529 + patterns "quota", "rate limit", "too many requests", etc.

{
  "opencode-model-fallback": {
    "enabled": true,
    "defaults": {
      "fallbackOn": ["rate_limit", "quota_exceeded", "5xx", "timeout", "overloaded"],
      "cooldownMs": 300000,
      "retryOriginalAfterMs": 900000,
      "maxFallbackDepth": 3
    },
    "agents": {
      "build": {
        "fallbackModels": [
          "anthropic/claude-sonnet-4-20250514",
          "google/gemini-flash-2-5"
        ]
      },
      "*": {
        "fallbackModels": ["anthropic/claude-haiku-4-5"]
      }
    }
  }
}

Otras Capacidades

• small_model: Configurable para tareas internas (títulos de sesión).
• Model variants: reasoningEffort, textVerbosity.
• DigitalOcean Inference Routers: Políticas cheapest/fastest/best-fit.

3.Codex CLI — Multi-Provider, Sin Fallback Nativo

Modelos Nativos

Multi-Provider (NO Exclusivo OpenAI)

Por defecto usa OpenAI, pero soporta providers personalizados:

model_provider = "openai"  # default
# o "amazon-bedrock", "ollama", "lmstudio"

# custom:
[model_providers.mistral]
name = "Mistral"
base_url = "https://api.mistral.ai/v1"
env_key = "MISTRAL_API_KEY"

• Protocolo: Solo Responses API (Chat Completions deprecado).
• Auth: env_key, auth.command, requires_openai_auth.
• Open Source: codex --oss para Ollama/LM Studio.

Model Selection

• Manual: -m gpt-5.4-mini, /model command, selector IDE.
• Profiles: ~/.codex/profile-name.config.toml con --profile.
• Per-subagent model en TOML definitions.

4.Claude Code — Aliases, Provider Resolution, Bug Conocido

Model Aliases

Default por Tipo de Cuenta

Subagent Model Routing

Precedencia: CLAUDE_CODE_SUBAGENT_MODEL env > parámetro de invocación > frontmatter > modelo de conversación.

Fallback y Fast Mode

claude -p --fallback-model sonnet "query"

• Auto-fallback cuando modelo primario overloaded/not found.
• Fast mode: rate limits separados, auto-fallback a standard speed en cooldown.
• A partir de Week 22 (2026): Claude Code cambia al fallback-model para toda la sesión cuando primario no encontrado.

Provider Support

Anthropic API, AWS Bedrock, Google Vertex AI, Azure AI Foundry, Cloud Platform on AWS. Los model aliases resuelven diferente según provider.

5.Tabla Comparativa de Routing

6.Routing Strategies — Tarea, Costo, Latencia, Cascade

Por Tipo de Tarea

Por Costo — Cascade Pattern

El patrón más efectivo: modelo barato primero, escalar si falla validación.

1. Intento inicial: Haiku / GPT-5.4-mini / DeepSeek V4 Flash ($0.14/M input)
2. Validación: Clasificador rápido verifica calidad de salida
3. Escalamiento: Si validación falla → re-ejecutar con Sonnet / GPT-5.4
4. Máximo esfuerzo: Si persiste el error → Opus / GPT-5.5

Por Latencia

Cascade Pattern Completo

7.Provider Marketplaces — OpenRouter, Together AI, Fireworks AI

OpenRouter

• 200+ modelos, API key única compatible con OpenAI.
• Routing inteligente: load balance, provider prioritization.
• Auto Router (openrouter/auto): powered by NotDiamond, analiza el prompt y elige el modelo óptimo.
• cost_quality_tradeoff (0-10): balance costo/calidad configurable.
• Model Fallbacks: Array models en priority order.
• Latencia extra: ~50-150ms. Markup ~5% sobre precio upstream.

{
  "models": [
    "anthropic/claude-sonnet-4",
    "openai/gpt-5.4",
    "google/gemini-2.5-pro"
  ],
  "route": "fallback"
}

Together AI

• ~100 modelos open-source (Llama, Mistral, DeepSeek, Qwen, etc.).
• Conditional Workflows: Router agent que clasifica input y elige modelo según categoría.
• Fine-tuning: LoRA + full, dedicated endpoints.
• Cost-aware: 8B vs 70B = 90% ahorro en inferencia.

Fireworks AI

• Routers nativos: Weighted replica selection para A/B testing entre deployments.
• Service tiers: Standard, Priority, Fast (100+ tok/s).
• On-demand deployments: Facturación por GPU-second.

8.Research Avanzado — ZeroRouter, MTRouter, R2-Router, Speculative Decoding

ZeroRouter (AAAI 2025)

Espacio latente universal que mapea prompts y modelos. Embedding-based routing usando FAISS k-NN para encontrar el mejor modelo en microsegundos. Generaliza zero-shot a modelos no vistos durante entrenamiento.

MTRouter

Joint history-model embeddings. Turn-level routing: elige modelo distinto en cada turno según estado de conversación. Resultados en ScienceWorld: +5.4% score, -58.7% costo.

R2-Router

Output length como variable controlable. Routing on curves vs routing on points — en lugar de predecir el mejor modelo, predice la curva costo-calidad completa. Logra 4-5× menor costo vs baselines.

Speculative Decoding — Avances 2026

9.Model Tokens y Precios — Referencia Rápida

Todos los precios en USD por millón de tokens. Datos verificados a Junio 2026.

10.Guía de Decisión

11.Fortalezas y Debilidades por Plataforma

12.Fuentes Verificadas

Todas las URLs verificadas a Junio 2026. Enlaces directos a documentación oficial y papers de investigación.

Documentación Oficial de Plataformas

• OpenCode — Providers
• OpenCode — Agents
• OpenCode — Models
• Codex CLI — Models
• Codex CLI — Config Reference
• Claude Code — Model Config
• Claude Code — Auto Mode Config
• Claude Code — Fast Mode
• Claude Code — Costs
• Claude Code — Issue #43869 (Bug subagent routing)

Provider Marketplaces

• OpenRouter — Model Fallbacks
• OpenRouter — Auto Router
• Together AI — Conditional Workflows
• Fireworks AI — Routers

Papers de Investigación

• Dual-Pool Token-Budget Planning for Hierarchical Multi-Agent System
• ZeroRouter — AAAI 2025
• MTRouter — Joint History-Model Embeddings
• R2-Router — Routing on Curves
• SPECTRE — Tail Models as Remote Drafters
• Draft-OPD — On-Policy Distillation
• CoSpec — RL Arbitration Policy