El límite fijo de cuánto texto puede procesar o generar un modelo de IA en una sola solicitud, que los desarrolladores tienen que gestionar activamente.
Ejemplos
"Tuvieron que rediseñar el prompt entero porque se estaban quedando sin presupuesto de tokens a mitad de la respuesta."
Origen y uso
Terminología LLM estándar desde que los costos de uso y los límites de contexto convirtieron a los 'tokens' en un recurso que había que presupuestar conscientemente en vez de ignorar.
Se usa al hablar de los límites de texto que un desarrollador tiene que administrar en una app de IA.
MENTIONS OVER TIME
¿Quieres ver la entrada completa en inglés con etiquetas de categoría, tendencia, distribución por plataforma y votos de la comunidad? Visita la Token Budget entrada completa en inglés →
WHEN DID YOU FIRST HEAR THIS?
CLICK AN OPTION BELOW TO CAST YOUR VOTE.
[ VOTE TO REVEAL COMMUNITY RESULTS ]