热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币,引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲
经过两年的大规模迭代,这里是我们关于Fluid工程的所有经验教训。
计算系统最理想(但似乎最难实现)的特性是*在任何规模下都能高效且可预测的性能*。
由Lambda开创的无服务器架构有一套不寻常的权衡。它在生产中可能会出现冷启动,这是不可接受的。
不过,较少人知道的是,它解决了服务器的致命弱点:嘈杂的邻居、拥堵和不充分的负载均衡。
尽管代价巨大(每个并发请求需要1个“计算机”),但效果非常出色。我有时将其与您和您的朋友同时下班去同一家餐厅,但你们都叫了Uber XL进行比较。你们会有一个很棒的体验,但这很浪费。
当我们构建Fluid时,我们希望兼得其利。我特别满意我们的算法,它利用“车内每一个可用座位”(非常适合在令牌上等待较多的AI应用),但根据需要水平扩展更多计算机。这是一个即使对于经验丰富的DevOps团队来说也极其难以做到的事情。

7月29日 07:16
Fluid 使得在没有无服务器的陷阱下,能够部署 AI 和后端工作负载。
它防止冷启动,增加了流处理和后响应计算支持,并大幅提高了成本效率。
以下是我们如何设计它的
55.17K
热门
排行
收藏