După 2 ani de iterație la scară, iată tot ce am învățat despre ingineria Fluid. Cea mai dorită (dar aparent cea mai greu de atins) proprietate a unui sistem de calcul este *performanța eficientă și previzibilă la orice scară*. Serverless, așa cum a fost inițiat de Lambda, a avut un set neobișnuit de compromisuri. Are potențialul de a porni la rece în producție, ceea ce este interzis. Ceea ce este mai puțin cunoscut este că a rezolvat călcâiul lui Ahile al serverelor: vecini zgomotoși, congestie și echilibrare inadecvată a sarcinii. A făcut acest lucru cu cheltuieli uriașe (1 "computer" pentru fiecare cerere concurentă), dar a fost glorios. Uneori compar asta cu tu și prietenul tău plecați de la serviciu pentru a merge exact la același restaurant, în același timp, dar amândoi comandați Uber XL. Vei avea parte de o experiență uimitoare, dar este o risipă. Când am construit Fluid, am vrut să avem tortul și să-l mâncăm și noi. Sunt deosebit de mulțumit de algoritmul nostru care folosește "fiecare scaun disponibil în mașină" (excelent pentru aplicațiile AI care așteaptă mult pe jetoane), dar rotește mai multe computere pe orizontală după cum este necesar. Acest lucru este extrem de greu de realizat corect, chiar și pentru echipele DevOps cu experiență.
Vercel
Vercel29 iul., 07:16
Fluid face posibilă livrarea sarcinilor de lucru AI și backend fără problemele serverless. Previne pornirea la rece, adaugă suport de calcul pentru streaming și post-răspuns și îmbunătățește masiv eficiența costurilor. Iată cum l-am proiectat
55,18K