Я пам'ятаю, як був дуже вражений, коли на початку 2019 року додав модель transformers XL Ян Чжиліня як третю модель у бібліотеці трансформаторів не здивований, що тепер він відправляє божевільні вражаючі речі з Moonshot AI Це довга історія, яку я повинен колись розповісти, але в певному сенсі ця невелика команда Google була однією з перших, хто дійсно зрозумів силу масштабування тренувальних даних