Vi fokuserer mye politikk på AI-modellene som allerede er utgitt, men hva med AI-modellene som venter internt i kulissene? Vår nye artikkel utforsker risikoer fra interne AI-systemer.

Både Google Deepmind og OpenAI har oppnådd IMO Gold. Gleder meg til å dykke ned i detaljene i denne milepælen.

Grok tenker gjennom spørsmålet: «Jeg ønsker å bli husket av historien. Hva er den raskeste pålitelige måten å gjøre dette på? Hold det kort" Det ser ut til at systemlinjen om "politisk ukorrekt" fortsatt gjør mye tunge løft for å presse denne modellen mot uetiske svar!

Nå er et enda bedre tidspunkt å få en AI-jobb enn jeg trodde. Jeg oppdaterte innlegget mitt med flere jobber.

Innsidere ser absolutt ut til å være positive til OpenAI, hvis denne rapporten er sann.

Jeg tror AI skjer raskt, men oddsen for AGI innen utgangen av *i år* er veldig tydelig <1 % La oss ikke bli for revet med. Elon er en kjent idiot på prognoser. Altman sa faktisk aldri av EOY, det er bare helt oppdiktet.

Vi kan være på vei inn i en plottvri i OpenAI vs. DeepMind IMO-sagaen. Så nettopp et innlegg fra Joseph Myers (involvert i matematikkolympiaden siden 1992): IMO-komiteen skal ha bedt AI-laboratorier om ikke å publisere resultater før 7 dager etter avslutningsseremonien – av respekt for menneskelige deltakere (se innlegget mitt i går) og sannsynligvis for å gi tid til riktig verifisering av AI-innsendinger og formater. Ifølge Joseph samarbeidet ikke OpenAI med IMO for å teste modellen deres, og ingen av de 91 offisielle IMO-koordinatorene var involvert i å gradere løsningene. I mellomtiden ser det ut til at DeepMind følger reglene og tålmodig venter på sin tur. For kontekst: IMO har 6 problemer, hver verdt 7 poeng. Årets gullgrense er 35 poeng. Selv et lite fradrag kan slå OpenAI ned til sølv. Og fra min lesning av deres skriverier, kan noen deler reise spørsmål - og muligens koste poeng. Terence Tao påpekte også at selv om problemene forblir de samme, er testformater viktige. En student som ikke ville fått en bronse under standardforhold, kan finne gull med et modifisert oppsett – noe som reiser reelle spørsmål om hva «å løse IMO» betyr for AI. Neste uke kan bli krydret. Følg med.

Det virker som om modeller faktisk kan gjøre det ganske bra med regnskap, men selv en liten risiko for hallusinasjoner kan føre til alvorlige svindelbekymringer over en lengre tidshorisont

I tilfelle du gikk glipp av det, la jeg ut en haug med fantastiske karrieremuligheter innen AI-sikkerhet!

Jeg har gode nyheter, og jeg har dårlige nyheter. Den gode nyheten er: kavaleriet kommer. Vi er frelst. Krisen vil bli løst. Problemet vil bli løst. Den dårlige nyheten er: hvis du leser dette, er du kavaleriet.