什么是 Inference Cost（推理成本）？

标准的机器学习基础设施术语（"推理"=运行一个训练好的模型），一旦团队需要把单次响应的成本当成真正的一笔预算项来讨论，就直接套用了。

常用来形容成本悄悄涨了很多没人注意，比如"用量一扩大，那个模型的推理成本悄悄翻了三倍，账单来了才有人注意到"。