Полностью согласен - Flower labs еще одна группа, активно публикующая отличные материалы и теперь сосредоточенная на децентрализованном обучении. Это должно стать важной точкой данных для всех, кто все еще скептически относится к этой области - команда Flower настолько легитимна, насколько это возможно, а Ник Лейн, по сути, находится на вершине в области федеративного обучения. Каждый сигнал для меня указывает на то, что мы находимся на пороге огромного академического перелома в этой области в сфере машинного обучения. Это уже не просто контрарная позиция, это явно ранние дни того, что станет важной и очень влиятельной областью.
nic lane
nic lane16 июл., 19:35
Congrats on the paper @_AlexanderLong. But your left out @flwrlabs that published a full system (photon) with validated in-the-wild fully decentralized training up to 13B @MLSysConf. Along with a key technique of the decentralized stack (decoupled embeddings) published as an oral @iclr_conf. This was work done along with @CaMLSys at @Cambridge_Uni.
1,13K