Etter 2 år med iterasjon i stor skala, her er alt vi lærte om Engineering Fluid. Den mest ønskelige (men tilsynelatende vanskeligste å oppnå) egenskapen til et datasystem er *effektiv og forutsigbar ytelse i enhver skala*. Serverløs som Lambda var pioner for hadde et uvanlig sett med avveininger. Den har potensial for kaldstart i produksjonen, noe som er en no-go. Det som imidlertid er mindre kjent er at det løste seg for akilleshælen til servere: støyende naboer, overbelastning og utilstrekkelig lastbalansering. Det gjorde det med enorme kostnader (1 "datamaskin" per samtidig forespørsel), men det var strålende. Noen ganger sammenligner jeg dette med at du og vennen din forlater jobben for å gå til nøyaktig samme restaurant, samtidig, men dere bestiller begge Uber XL-er. Du vil få en fantastisk opplevelse, men det er bortkastet. Da vi bygde Fluid, ønsket vi å ha kaken og spise den også. Jeg er spesielt fornøyd med algoritmen vår som bruker «alle tilgjengelige seter i bilen» (flott for AI-apper som venter mye på tokens), men spinner opp flere datamaskiner horisontalt etter behov. Dette er noe ekstremt vanskelig å få riktig, selv for erfarne DevOps-team.