Trend-Themen
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Nach 2 Jahren der Iteration im großen Maßstab sind hier alle Erkenntnisse, die wir über die Entwicklung von Fluid gewonnen haben.
Die begehrteste (und scheinbar am schwersten zu erreichende) Eigenschaft eines Computersystems ist *effiziente und vorhersehbare Leistung in jedem Maßstab*.
Serverless, wie es von Lambda eingeführt wurde, hatte eine ungewöhnliche Reihe von Kompromissen. Es hat das Potenzial für kalte Starts in der Produktion, was ein No-Go ist.
Weniger bekannt ist jedoch, dass es das Achillesferse der Server gelöst hat: laute Nachbarn, Staus und unzureichendes Lastenmanagement.
Es geschah jedoch zu enormen Kosten (1 "Computer" pro gleichzeitiger Anfrage), aber es war glorreich. Manchmal vergleiche ich das damit, dass du und dein Freund nach der Arbeit zur genau gleichen Zeit ins gleiche Restaurant gehen, aber beide Uber XLs bestellen. Ihr werdet ein großartiges Erlebnis haben, aber es ist verschwenderisch.
Als wir Fluid entwickelten, wollten wir den Kuchen haben und ihn auch essen. Ich bin besonders zufrieden mit unserem Algorithmus, der 'jeden verfügbaren Platz im Auto nutzt' (großartig für KI-Anwendungen, die viel auf Tokens warten), aber bei Bedarf mehr Computer horizontal hochfährt. Das ist etwas, das selbst für erfahrene DevOps-Teams äußerst schwer zu meistern ist.

29. Juli, 07:16
Fluid ermöglicht es, KI- und Backend-Workloads ohne die Tücken von Serverless zu versenden.
Es verhindert Kaltstarts, fügt Streaming- und Post-Response-Computing-Unterstützung hinzu und verbessert massiv die Kosteneffizienz.
So haben wir es entwickelt.
55,17K
Top
Ranking
Favoriten