каждый раз, когда вы читаете технический отчет от SOTA открытой модели, который в основном ставит под сомнение 99% моделей западных лабораторий (кроме абсолютных двух лучших), он всегда звучит так: "да, мы в основном собрали очень качественные данные, тщательно сгенерировали много данных [из-за того, что не тупые], затем мы применили все лучшие приемы и вещи, которые мы видели за последние 12 месяцев для инфраструктуры, постобучения и т.д. и пришли к одному или двум [потому что у нас есть вкус / мы заботимся]". число компаний в США, которые могли бы это делать с теми $$$, которые им выделяются, и ни одна из них на самом деле никогда не делает ничего подобного, говорит вам многое о пуле талантов в этих компаниях.

"мы использовали Muon в качестве оптимизатора, настроили его и потратили все наше время на создание конвейера генерации и валидации данных. Остальное зависит от нашего количества вычислений и специфической инфраструктуры + всех лучших в своем классе, которые из этого вытекают" вау

vs "мы работаем над безопасным и прибыльным Суперинтеллектом. AGI близко. Дни инженеров закончились. Набор на 500 инженеров."