Le preguntamos a @davidpstout (Co-Fundador y CEO, webAI) sobre las ventajas de ejecutar IA en dispositivos. "No hay almuerzo gratis, pero hay cosas que los proveedores de la nube no pueden hacer. Es intensivo en RAM, sí, pero al distribuirse entre dispositivos, podemos desbloquear más precisión y contexto. Pero si estás alojando para un millón de usuarios en Nvidia, no puedes hacer eso." "Con nuestra pila, todo es solo en downstream. Piensa en los datos de salud, como que quieres que sean privados. El sueño son modelos personalizados para millones que nunca abandonan su dispositivo."
7,51K