很少有对话会让你铭记于心，而我在班加罗尔与 @JonathanRoss321 的对话（感谢 Lightspeed @MohapatraHemant）就是其中之一。关键要点：1. 更快的推理不仅仅是速度问题。当时间成为限制时，输出质量显著提高（处理更多的令牌）。2. 对于企业来说，真正的关键在于经济学：他们会继续投资于更快的推理，直到特定任务的成本下降或收入上升。