经过两年的大规模迭代,这里是我们关于Fluid工程的所有经验教训。 计算系统最理想(但似乎最难实现)的特性是*在任何规模下都能高效且可预测的性能*。 由Lambda开创的无服务器架构有一套不寻常的权衡。它在生产中可能会出现冷启动,这是不可接受的。 不过,较少人知道的是,它解决了服务器的致命弱点:嘈杂的邻居、拥堵和不充分的负载均衡。 尽管代价巨大(每个并发请求需要1个“计算机”),但效果非常出色。我有时将其与您和您的朋友同时下班去同一家餐厅,但你们都叫了Uber XL进行比较。你们会有一个很棒的体验,但这很浪费。 当我们构建Fluid时,我们希望兼得其利。我特别满意我们的算法,它利用“车内每一个可用座位”(非常适合在令牌上等待较多的AI应用),但根据需要水平扩展更多计算机。这是一个即使对于经验丰富的DevOps团队来说也极其难以做到的事情。
Vercel
Vercel7月29日 07:16
Fluid 使得在没有无服务器的陷阱下,能够部署 AI 和后端工作负载。 它防止冷启动,增加了流处理和后响应计算支持,并大幅提高了成本效率。 以下是我们如何设计它的
55.17K