Mannen som kan LØSE AI-justering 🦸 ♂️ Dr. Steven Byrnes (@steve47285) er en av de få personene som både forstår hvorfor justering er vanskelig, og tar en seriøs teknisk sjanse for å løse det. Han har hele 90 % P(Doom), men hevder at LLM-er vil flate ut før de blir virkelig farlige, og den virkelige trusselen vil komme fra neste generasjons "hjernelignende AGI" basert på skuespiller-kritiker-forsterkningslæring. Etter sin UC Berkeley fysikk PhD og Harvard postdoc, ble han AGI-sikkerhetsforsker ved @AsteraInstitute. Han er nå dypt inne i nevrovitenskapen om omvendt utvikling av hvordan menneskelige hjerner faktisk fungerer, kunnskap som sannsynligvis kan hjelpe oss med å løse det tekniske AI-justeringsproblemet. I denne uvanlig dype episoden – for med all respekt for de andre gjestene mine, trengte jeg ikke å kaste bort tid på å krangle med ham om åpenbare overflateproblemer – snakker vi om hans «to delsystemer»-modell av hjernen, hvorfor nåværende AI-sikkerhetstilnærminger bommer på målet, hans uenigheter med tilnærminger til sosial evolusjon, og hvorfor forståelse av menneskelig nevrovitenskap er viktig for å bygge justert AGI.

Søk etter «Doom Debates» i podkastspilleren din eller se på YouTube:

Den sjeldne episoden der gjesten har RETT!