Nourrir le modèle en contexte de manière incrémentale, l'envoyant par morceaux à mesure qu'il est prêt, plutôt que d'assembler tout le contexte d'un coup avant de commencer —distinct de la compression, cela change le moment d'arrivée du contexte, pas sa quantité.
Exemples
"Avec le streaming de contexte, la première réponse commençait déjà à arriver avant que le reste du contexte ne finisse de charger."
Origine et usage
Désigne des réponses pouvant commencer avant que tout le contexte ne finisse de charger.
MENTIONS OVER TIME
Vous voulez voir la fiche complète en anglais avec les tags de catégorie, la tendance, la répartition par plateforme et les votes de la communauté ? Consultez la Context Streaming fiche complète en anglais →
WHEN DID YOU FIRST HEAR THIS?
CLICK AN OPTION BELOW TO CAST YOUR VOTE.
[ VOTE TO REVEAL COMMUNITY RESULTS ]