Мы спросили @davidpstout (соучредитель и CEO, webAI) о преимуществах запуска ИИ на устройствах. "Бесплатного сыра не бывает, но есть вещи, которые облачные провайдеры не могут сделать. Да, это требует много оперативной памяти, но распределяя нагрузку между устройствами, мы можем добиться большей точности и контекста. Но если вы обслуживаете миллион пользователей на Nvidia, вы не сможете этого сделать." "С нашим стеком все работает только в одном направлении. Подумайте о данных о здоровье, вы хотите, чтобы они были конфиденциальными. Мечта заключается в персонализированных моделях для миллионов, которые никогда не покинут свои устройства."
7,52K