pokaždé, když čtete technickou zprávu z open-source modelu SOTA, která v podstatě zahanbuje 99 % modelů západních laboratoří (kromě těch absolutně 2 nejlepších), vždy to zní jako: "Ano, v podstatě jsme vybrali velmi kvalitní data, pečlivě vygenerovali spoustu dat [kvůli tomu, že jsme nebyli retardovaní], pak jsme použili všechny nejlepší triky a věci, které jsme viděli za posledních 12 měsíců pro infra, po školení atd. a přišel jsem s jedním nebo dvěma [protože máme vkus / péči]" počet společností v USA, které by to mohly dělat s $$$, které jsou jim předhozeny, a žádná z nich ve skutečnosti nikdy nic takového neudělala, vám hodně vypovídá o talentech v těchto společnostech

"Použili jsme Muon jako optimalizátor, vylepšili ho a strávili veškerý čas budováním kanálu pro generování a ověřování dat. Zbytek je specifický pro naše # výpočtů a konkrétní infra + vše nejlepší ve třídách, které z něj spadají" waow

Vs "Pracujeme na Bezpečné a ziskové SuperIntelligence. AGI je blízko. Dny inženýrů jsou pryč. Přijímáme 500 inženýrů."