Metadados de modelo
Os quatro campos que definem o comportamento e o custo de um modelo cadastrado.
Ao cadastrar um modelo que a plataforma não conhece de antemão, você informa quatro valores. Dois governam o que cabe em uma chamada; dois governam quanto ela custa.
Modelos do catálogo já vêm com esses valores preenchidos. Você só os informa manualmente ao adicionar um modelo próprio ou uma variante nova.
Os campos
| Campo | Unidade | O que determina |
|---|---|---|
Max Input Tokens | tokens | Tamanho da janela de contexto, somando prompt, histórico e trechos recuperados. |
Max Output Tokens | tokens | Teto de uma única resposta. |
Custo por Input | USD por token | Preço de cada token enviado ao modelo. |
Custo por Output | USD por token | Preço de cada token devolvido pelo modelo. |
Os dois campos de custo são informados por token, não por milhar. Um modelo que cobra US$ 0,15 por milhão de tokens de entrada tem Custo por Input igual a 0,00000015.
O efeito de cada um
Max Input Tokens é o limite prático de quanto conhecimento cabe em uma resposta. Um Agente com muitas Coleções associadas e conversas longas esbarra nele antes de qualquer outra coisa.
Max Output Tokens corta a resposta quando ela cresce demais. Respostas truncadas no meio de uma frase costumam ser este campo, não o modelo.
Os dois campos de custo não mudam nada no comportamento. Eles alimentam o cálculo de consumo e o enforcement de quotas.
Um preço errado aqui produz relatórios e cotas errados em toda a organização, sem nenhum aviso. O consumo continua sendo contabilizado; só o valor fica incorreto. Para menos, atrasa o bloqueio; para mais, bloqueia cedo demais.
Onde esses valores aparecem depois
- Observabilidade usa os custos para converter tokens em dinheiro.
- Quotas usa os mesmos custos para decidir quando bloquear um escopo.
- O formulário do Agente usa
Max Output Tokenscomo teto do campo de mesmo nome, em Opções avançadas.
Próximos passos
- Veja o consumo calculado a partir desses valores em Observabilidade.
- Entenda como escolher entre modelos em Provedores e modelos.