La limite fixe de la quantité de texte qu'un modèle IA peut traiter ou générer en une seule requête, que les développeurs doivent gérer activement.
Exemples
"Ils ont dû redessiner tout le prompt parce qu'ils manquaient de budget de tokens en plein milieu de la réponse."
Origine et usage
Terminologie LLM standard depuis que les coûts d'usage et les limites de contexte ont fait des « tokens » une ressource à budgétiser consciemment plutôt qu'à ignorer.
Utilisé en parlant des limites de texte qu'un développeur doit gérer dans une appli IA.
MENTIONS OVER TIME
Vous voulez voir la fiche complète en anglais avec les tags de catégorie, la tendance, la répartition par plateforme et les votes de la communauté ? Consultez la Token Budget fiche complète en anglais →
WHEN DID YOU FIRST HEAR THIS?
CLICK AN OPTION BELOW TO CAST YOUR VOTE.
[ VOTE TO REVEAL COMMUNITY RESULTS ]