Zapytaliśmy @davidpstout (Współzałożyciel i CEO, webAI) o zalety uruchamiania AI na urządzeniach. "Nie ma darmowego obiadu, ale są rzeczy, których dostawcy chmury nie mogą zrobić. Tak, to wymaga dużo pamięci RAM, ale rozdzielając obciążenie na urządzenia, możemy uzyskać większą dokładność i kontekst. Ale jeśli hostujesz dla miliona użytkowników na Nvidia, nie możesz tego zrobić." "W naszej architekturze wszystko jest tylko w dół. Pomyśl o danych zdrowotnych, chcesz, aby były prywatne. Marzeniem są spersonalizowane modele dla milionów, które nigdy nie opuszczają swojego urządzenia."
7,51K