推論時コンピュートとは？

AI研究者がこの言葉を使って「訓練時に計算力を投入する」ことと「推論時に計算力を投入する」ことという2つの異なる能力向上の道筋を区別しており、後者は近年になって重視され始めた新しいレバーである。

なぜ特定のモデルの回答が遅いのかを説明する時に使われる——推論段階で時間をかけて「じっくり考えて」いるから。