Após 2 anos de iteração em escala, aqui está tudo o que aprendemos sobre a engenharia de fluidos. A propriedade mais desejável (mas aparentemente mais difícil de alcançar) de um sistema de computação é *desempenho eficiente e previsível em qualquer escala*. O Serverless, como pioneiro da Lambda, tinha um conjunto incomum de compensações. Tem potencial para arranques a frio na produção, o que é impossível. O que é menos conhecido, porém, é que ele resolveu o calcanhar de Aquiles dos servidores: vizinhos barulhentos, congestionamento e balanceamento de carga inadequado. Fez isso com um custo tremendo (1 "computador" por solicitação simultânea), mas foi glorioso. Às vezes comparo isso a você e seu amigo saírem do trabalho para ir ao mesmo restaurante exato, ao mesmo tempo, mas vocês dois pedem Uber XLs. Você terá uma experiência incrível, mas é um desperdício. Quando construímos o Fluid, queríamos ter o bolo e comê-lo também. Estou particularmente feliz com nosso algoritmo que usa 'todos os assentos disponíveis no carro' (ótimo para aplicativos de IA que esperam muito por tokens), mas gira mais computadores horizontalmente conforme necessário. Isso é algo extremamente difícil de acertar, mesmo para equipes experientes de DevOps.