Jeg har vært litt stille på X i det siste. Det siste året har vært en transformerende opplevelse. Grok-4 og Kimi K2 er fantastiske, men robotverdenen er et vidunderlig ville vesten. Det føles som NLP i 2018 da GPT-1 ble publisert, sammen med BERT og tusen andre blomster som blomstret. Ingen visste hvilken som til slutt ville bli ChatGPT. Debattene var opphetede. Entropien var skyhøy. Ideer var sinnsykt morsomme. Jeg tror GPT-1 for robotikk allerede er et sted på Arxiv, men vi vet ikke nøyaktig hvilken. Kan være verdensmodeller, RL, læring fra menneskelig video, sim2real, real2sim, etc. etc, eller en hvilken som helst kombinasjon av dem. Debattene er opphetede. Entropien er skyhøy. Ideer er sinnsykt morsomme, i stedet for å presse de siste % på AIME og GPQA. Robotikkens natur kompliserer også designområdet i stor grad. I motsetning til den rene verdenen av biter for LLM-er (tekststrenger), må vi robotikere forholde oss til atomenes rotete verden. Tross alt er det en klump programvaredefinert metall i loopen. LLM-normer kan finne det vanskelig å tro, men så langt kan robotikere fortsatt ikke bli enige om en målestokk! Ulike roboter har forskjellige kapasitetskonvolutter - noen er bedre på akrobatikk mens andre på objektmanipulering. Noen er ment for industriell bruk, mens andre er for husholdningsoppgaver. Kryssutførelse er ikke bare en forskningsnyhet, men en viktig funksjon for en universell robothjerne. Jeg har snakket med dusinvis av C-suite-ledere fra forskjellige robotselskaper, gamle og nye. Noen selger hele kroppen. Noen selger kroppsdeler som fingernemme hender. Mange flere selger spadene for å produsere nye kropper, lage simuleringer eller samle inn enorme mengder data. Forretningsidéområdet er like vilt som forskningen selv. Det er et nytt gullrush, som vi ikke har sett siden ChatGPT-bølgen i 2022. Den beste tiden å delta på er når ikke-konsensus topper seg. Vi er fortsatt i starten av en tapskurve - det er sterke tegn på liv, men langt, langt unna konvergens. Hvert gradienttrinn tar oss inn i det ukjente. Men en ting vet jeg sikkert - det er ingen AGI uten å berøre, føle og bli legemliggjort i den rotete verdenen. På et mer personlig notat - å drive et forskningslaboratorium kommer med et helt nytt nivå av ansvar. Å gi oppdateringer direkte til administrerende direktør i et selskap på $4T er, for å si det mildt, både spennende og altoppslukende av oppmerksomhetsvektene mine. Borte er tiden da jeg kunne holde meg oppdatert på og dykke dypt inn i alle AI-nyheter. Jeg skal prøve å sette av tid til å dele mer av reisen min.
876,97K