Pular para o conteúdo principal

Model (LLM)

Um Model é uma entrada do catálogo de LLMs para a qual um Agent pode apontar via llm_model. Não é armazenado por workspace: GET /models (scope inbox/agents) retorna o catálogo do AI Gateway restrito aos modelos com preço conhecido, de modo que todo modelo que você pode escolher é custeado e contado contra o limite mensal do workspace. Modelos sem preço nunca são oferecidos.

Schema​

CampoTipoDescrição
idstringId no gateway, provider/model. O valor aceito em Agent.llm_model.
providerstringPrimeiro segmento do id.
modelstringSegundo segmento do id.
namestringNome de exibição.
descriptionstring | nullDescrição do provedor, quando disponível.
pricing.input / pricing.outputnumberUSD por token.
pricing.cache_read / pricing.cache_writenumberUSD por token para leituras e escritas de prompt cache.
pricing.valid_fromdatetimeQuando este preço passou a valer.

pricing só é null se uma linha de preço sumir entre a busca do catálogo e a consulta de preço; na prática todo modelo listado tem preço.

Exemplo​

{
"data": [
{
"id": "anthropic/claude-sonnet-5",
"provider": "anthropic",
"model": "claude-sonnet-5",
"name": "Claude Sonnet 5",
"description": null,
"pricing": {
"input": 0.000003,
"output": 0.000015,
"cache_read": 0.0000003,
"cache_write": 0.00000375,
"valid_from": "2026-09-01T00:00:00.000Z"
}
}
]
}

Erros​

502 gateway_error quando o catálogo do AI Gateway não pode ser obtido. Os preços vêm da tabela local model_prices e são sincronizados pelo operador; um modelo ausente da lista normalmente significa que o preço ainda não foi sincronizado.