O limite fixo de quanto texto um modelo de IA pode processar ou gerar numa única requisição, que os desenvolvedores precisam gerenciar ativamente.
Exemplos
"Tiveram que redesenhar o prompt inteiro porque estavam ficando sem orçamento de tokens no meio da resposta."
Origem e uso
Terminologia padrão de LLM desde que custos de uso e limites de contexto tornaram 'tokens' um recurso que precisava ser conscientemente orçado em vez de ignorado.
Usado ao falar dos limites de texto que um desenvolvedor precisa administrar num app de IA.
MENTIONS OVER TIME
Quer ver o verbete completo em inglês com tags de categoria, tendência, distribuição por plataforma e votos da comunidade? Acesse o Token Budget verbete completo em inglês →
WHEN DID YOU FIRST HEAR THIS?
CLICK AN OPTION BELOW TO CAST YOUR VOTE.
[ VOTE TO REVEAL COMMUNITY RESULTS ]