추론 시간 컴퓨트란?

AI 연구자들이 이 말을 써서 '훈련 시 연산력을 투입하는 것'과 '추론 시 연산력을 투입하는 것'이라는 두 가지 다른 능력 향상 경로를 구분하며, 후자는 최근 들어 주목받기 시작한 새로운 레버다.

특정 모델의 답변이 왜 느린지 설명할 때 쓴다—추론 단계에서 시간을 들여 '더 오래 생각'하고 있기 때문이다.