2年間の大規模な反復を経て、Fluidのエンジニアリングについて学んだことはすべてここにあります。 コンピューティングシステムの最も望ましい(しかし、達成するのが最も難しいように見える)特性は、*あらゆる規模で効率的で予測可能なパフォーマンス*です。 Lambda が開拓したサーバーレスには、珍しいトレードオフがありました。本番環境でコールドスタートが発生する可能性がありますが、これはダメです。 しかし、あまり知られていないのは、サーバーのアキレス腱であるノイズの多い隣人、輻輳、不十分な負荷分散を解決したことです。 それは莫大な費用(同時リクエストごとに1台の「コンピューター」)で行われましたが、それは輝かしいものでした。私は時々、あなたとあなたの友人が仕事を辞めてまったく同じレストランに行くのに、二人とも Uber XL を注文することに例えることがあります。素晴らしい経験はできるでしょうが、それはもったいないものです。 Fluid を作ったとき、私たちはケーキも食べたいと思いました。特に、「車内の空いているすべての座席」を使用し (トークンを大量に待つ AI アプリに最適です) が、必要に応じてより多くのコンピューターを水平方向に回転させるアルゴリズムに満足しています。これは、経験豊富なDevOpsチームであっても、正しく行うのが非常に難しいことです。