O limite fixo de quanto texto um modelo de IA pode processar ou gerar numa única requisição, que os desenvolvedores precisam gerenciar ativamente.
«orçamento de tokens» e uma traducao realmente usada nas comunidades de internet em portugues, nao apenas um calque de dicionario.
Exemplos
"Tiveram que redesenhar o prompt inteiro porque estavam ficando sem orçamento de tokens no meio da resposta."
Origem e uso
Terminologia padrão de LLM desde que custos de uso e limites de contexto tornaram 'tokens' um recurso que precisava ser conscientemente orçado em vez de ignorado.
Usado ao falar dos limites de texto que um desenvolvedor precisa administrar num app de IA.
MENTIONS OVER TIME
Radar observation data not yet available for this term.
Quer ver o verbete completo em inglês com tags de categoria, tendência, distribuição por plataforma e votos da comunidade? Acesse o Token Budget verbete completo em inglês →
Not enough Radar data yet.
WHEN DID YOU FIRST HEAR THIS?
CLICK AN OPTION BELOW TO CAST YOUR VOTE.
[ VOTE TO REVEAL COMMUNITY RESULTS ]