Sau 2 năm phát triển quy mô, đây là tất cả những gì chúng tôi đã học được về việc xây dựng Fluid. Tính chất mong muốn nhất (nhưng dường như khó đạt được nhất) của một hệ thống tính toán là *hiệu suất hiệu quả và có thể dự đoán ở bất kỳ quy mô nào*. Serverless như được tiên phong bởi Lambda có một bộ thỏa hiệp không bình thường. Nó có khả năng gặp phải tình trạng khởi động lạnh trong sản xuất, điều này là không thể chấp nhận. Điều ít được biết đến hơn là nó đã giải quyết được điểm yếu của các máy chủ: hàng xóm ồn ào, tắc nghẽn và cân bằng tải không đầy đủ. Nó đã làm điều đó với chi phí khổng lồ (1 "máy tính" cho mỗi yêu cầu đồng thời), nhưng thật tuyệt vời. Đôi khi tôi so sánh điều này với việc bạn và bạn của bạn rời khỏi công việc để đến cùng một nhà hàng, vào cùng một thời điểm, nhưng cả hai đều gọi Uber XL. Bạn sẽ có một trải nghiệm tuyệt vời, nhưng thật lãng phí. Khi chúng tôi xây dựng Fluid, chúng tôi muốn có bánh và cũng ăn nó. Tôi đặc biệt hài lòng với thuật toán của chúng tôi sử dụng 'mọi chỗ ngồi có sẵn trong xe' (tuyệt vời cho các ứng dụng AI thường xuyên chờ đợi token), nhưng khởi động thêm nhiều máy tính theo chiều ngang khi cần thiết. Đây là điều cực kỳ khó để thực hiện đúng, ngay cả đối với các đội DevOps có kinh nghiệm.