Hodně se zaměřujeme na modely umělé inteligence, které jsou již vydány, ale co modely umělé inteligence, které čekají interně v zákulisí? Náš nový dokument se zabývá riziky spojenými s interními systémy umělé inteligence.

Google Deepmind i OpenAI dosáhly IMO Gold. Těším se, až se ponoříme do podrobností tohoto milníku.

Grok se nad otázkou zamyslí: "Chci, aby si mě historie pamatovala. Jaký je nejrychlejší a nejspolehlivější způsob, jak to udělat? Buďte struční" Zdá se, že systémová linie o "politicky nekorektním" stále odvádí hodně práce při tlačení tohoto modelu k neetickým reakcím!

Nyní je ještě lepší čas získat práci v oblasti umělé inteligence, než jsem si myslel. Aktualizoval jsem svůj příspěvek o další práce.

Insideři se určitě zdají být ohledně OpenAI býčí, pokud je tato zpráva pravdivá.

Myslím, že umělá inteligence se děje rychle, ale pravděpodobnost AGI do konce *letošního roku* je velmi jasně <1% Nenechme se příliš unést. Elon je známý idiot v předpovídání. Altman to EOY nikdy neřekl, to je prostě úplně vymyšlené.

Možná míříme do dějového zvratu v sáze OpenAI vs. DeepMind IMO. Právě jsem viděl příspěvek od Josepha Myerse (zapojeného do matematické olympiády od roku 1992): výbor IMO údajně požádal laboratoře AI, aby nezveřejňovaly výsledky dříve než 7 dní po závěrečném ceremoniálu – z úcty k lidským soutěžícím (viz můj včerejší příspěvek) a pravděpodobně aby poskytly čas na řádné ověření odeslaných příspěvků a formátů AI. Podle Josepha OpenAI nespolupracovala s IMO na testování jejich modelu a žádný z 91 oficiálních koordinátorů IMO se nepodílel na hodnocení jejích řešení. Mezitím se zdá, že DeepMind dodržuje pravidla a trpělivě čeká, až na ně přijde řada. Pro kontext: IMO má 6 úloh, z nichž každý má hodnotu 7 bodů. Letošní zlatá hranice je 35 bodů. I malá srážka by mohla OpenAI srazit na stříbro. A z toho, co jsem četl jejich zápisy, by některé části mohly vyvolat otázky – a možná i náklady. Terence Tao také poukázal na to, že i když problémy zůstávají stejné, na testovacích formátech záleží. Student, který by za standardních podmínek nezískal bronzovou medaili, by mohl s upraveným nastavením dosáhnout zlata – což vyvolává skutečné otázky o tom, co pro umělou inteligenci znamená "vyřešení IMO". Příští týden by mohl být pikantní. Zůstaňte naladěni.

Zdá se, že modely si ve skutečnosti mohou vést docela dobře v účetnictví, ale i malé riziko halucinace může vést k vážným obavám z podvodů v delším časovém horizontu

Pokud vám to uniklo, zveřejnil jsem spoustu úžasných kariérních příležitostí v oblasti bezpečnosti AI!

Mám dobré a špatné zprávy. Dobrou zprávou je, že jezdectvo přichází. Jsme spaseni. Krize bude vyřešena. Problém bude vyřešen. Špatná zpráva je: pokud tohle čtete, jste kavalerie.