Perguntamos a @davidpstout (cofundador e CEO da webAI) sobre as vantagens de executar IA em dispositivos. "Não há almoço grátis, mas há coisas que os jogadores da nuvem não podem fazer. É intensivo em RAM, sim, mas ao distribuir entre dispositivos, podemos desbloquear mais precisão e contexto. Mas se você está hospedando para um milhão de usuários na Nvidia, não pode fazer isso." "Com nossa pilha, tudo é apenas a jusante. Pense nos dados de saúde, como se você quisesse que fossem privados. O sonho são modelos personalizados para milhões que nunca saem do dispositivo."
7,52K