Một vài cuộc trò chuyện sẽ ở lại với bạn, cuộc trò chuyện với @JonathanRoss321 ở Bangalore (cảm ơn Lightspeed @MohapatraHemant) là một trong số đó. Những điểm chính rút ra: 1. Suy diễn nhanh hơn không chỉ là về tốc độ. Khi thời gian là yếu tố hạn chế, chất lượng đầu ra cải thiện đáng kể (nhiều token được xử lý hơn) 2. Đối với các doanh nghiệp, yếu tố thực sự là kinh tế: họ sẽ tiếp tục đầu tư vào suy diễn nhanh hơn cho đến khi các nhiệm vụ cụ thể thấy chi phí giảm hoặc doanh thu tăng.