Jag kommer att presentera vårt arbete med dekantraliserad träning och ser fram emot alla andra bra föredrag!

Torchtitan har byggt det HSDP + diloco-stöd, det är förmodligen det bästa stället just nu att börja göra decentraliserad inlärningsforskning. Den kommer också med stöd för många arch (llama3,llama4, deepseekv3...) samt alla möjliga parallelliteter (6d?). Pytorch-teamet lagade mat här

"Att vinna handlar inte bara om data och distribution. Det handlar också om smak och tillit – något som teknikjättarna förlorat. Midjourney byggdes inte av Adobe, Perplexity av Google och Cursor av Microsoft. Det har aldrig funnits en bättre tid att vara Davids som slåss mot Goliat." @HugoAmsellem sa orden 🤙

Vem bygger älskvärt för videospel

Vi presenterar Ariana - den samarbetsagentiska IDE baserad på Claude Code - Hantera uppgifter med ditt team - Ge dem till flera kodningsagenter med sin egen maskin och gren - Diskutera med ditt team - Agenter slås samman åt dig kommentar "Bättre sent än aldrig" för att få ett bygge snart

Kör viss arbetsbelastning på TorchTitan med standardkonfiguration, 23 % MFU, ändra lite i konfigurationen, aktivera kompilering och flex, öka batchstorleken lite --> 58 % MFU. Jag önskar att vi hade mer högpresterande standard i facklans ekosystem

Målet med @PrimeIntellect är detsamma, de kommer bara inte att vara centraliserade eller samlokaliserade

Att demokratisera åtkomsten till databehandling är ett av @PrimeIntellect viktigaste uppdraget

Jag är mycket mer benägen att säga att RL *systemet* inuti OpenAI är AGI snarare än någon fast modell checkpoint som kommer ut ur den

Jag insåg vid vårt Berlin-evenemang att det finns många begåvade och ambitiösa unga människor i Europa. Bara (nästan) inget inspirerande företag för att bygga framtiden eller riskkapital som har bollarna att ge dem en chans. Inte undra på varför alla vill Kom till SF|