Perguntámos a @davidpstout (Co-Fundador e CEO, webAI) sobre as vantagens de executar IA em dispositivos. "Não há almoço grátis, mas há coisas que os provedores de nuvem não conseguem fazer. É intensivo em RAM, sim, mas ao distribuir entre dispositivos, podemos desbloquear mais precisão e contexto. Mas se você está hospedando para um milhão de usuários na Nvidia, não consegue fazer isso." "Com nossa pilha, tudo é apenas downstream. Pense em dados de saúde, como você quer que isso seja privado. O sonho são modelos personalizados para milhões que nunca saem de seus dispositivos."