很少有對話會讓你銘記於心，而我在班加羅爾與 @JonathanRoss321 的對話（感謝 Lightspeed @MohapatraHemant）就是其中之一。關鍵要點：1. 更快的推理不僅僅是速度問題。當時間成為限制時，輸出質量顯著提高（處理更多的令牌）。2. 對於企業來說，真正的關鍵在於經濟學：他們會繼續投資於更快的推理，直到特定任務的成本下降或收入上升。