Saltar al contenido principal

Model (LLM)

Un Model es una entrada del catálogo de LLMs a la que un Agent puede apuntar mediante llm_model. No se almacena por workspace: GET /models (scope inbox/agents) devuelve el catálogo del AI Gateway limitado a los modelos con precio conocido, de modo que todo modelo que puedes elegir se costea y se cuenta contra el límite mensual del workspace. Los modelos sin precio nunca se ofrecen.

Esquema​

CampoTipoDescripción
idstringId en el gateway, provider/model. El valor aceptado en Agent.llm_model.
providerstringPrimer segmento del id.
modelstringSegundo segmento del id.
namestringNombre para mostrar.
descriptionstring | nullDescripción del proveedor, cuando está disponible.
pricing.input / pricing.outputnumberUSD por token.
pricing.cache_read / pricing.cache_writenumberUSD por token para lecturas y escrituras de prompt cache.
pricing.valid_fromdatetimeDesde cuándo rige este precio.

pricing solo es null si una fila de precio desaparece entre la consulta del catálogo y la búsqueda de precio; en la práctica todo modelo listado tiene precio.

Ejemplo​

{
"data": [
{
"id": "anthropic/claude-sonnet-5",
"provider": "anthropic",
"model": "claude-sonnet-5",
"name": "Claude Sonnet 5",
"description": null,
"pricing": {
"input": 0.000003,
"output": 0.000015,
"cache_read": 0.0000003,
"cache_write": 0.00000375,
"valid_from": "2026-09-01T00:00:00.000Z"
}
}
]
}

Errores​

502 gateway_error cuando no se puede obtener el catálogo del AI Gateway. Los precios provienen de la tabla local model_prices y los sincroniza el operador; un modelo ausente de la lista normalmente significa que su precio aún no se ha sincronizado.