Jednou z funkcí, kterou tyto modely nemají, ale ve skutečnosti by měly, jsou anotace pro to, z jaké části latentního prostoru pochází odezva modelu, podobně jako šachové motory anotují stavy na šachovnici tím, jaké známé šachové pozice nebo strategie jsou součástí šachovnice.
Eliezer Yudkowsky ⏹️
Eliezer Yudkowsky ⏹️18. 7. 03:07
Zakladatele a manažera fondu ve výši 2 miliard dolarů sežral ChatGPT, který afaik ani na nic nepoužívá své peníze. Prostě s ním zachází jako s prostředkem k výrobě tokenů, že dává přednost rozumným tokenům, z důvodů, které nikdo nezná. OpenAI podle mého modelu předstírá, že je nevšímavá, protože OpenAI si myslí, že pokud s tím nic nepodnikne, má větší šanci, že jim to projde u soudu (u soudu u soudu a u mediálního soudu), než když se pokusí něco udělat a neuspěje; to by (a) připustilo, že věděli, že problém existoval a stále existuje, a (b) udělali by z něj svou chybu podle Kodaňské etiky. Jakkoli by lidé mohli rádi vtipkovat o tom, jak málo dovedností je potřeba k založení investičního fondu ve výši 2 miliard dolarů, ve skutečnosti není pravda, že se můžete jen tak vplížit jako psychotický člověk s IQ 80 a udělat to. Musíte být zruční v přesvědčování, v nošení masek, v zapadnutí, v tom, abyste věděli, co se od vás očekává; musíte překonat ostatní lidi, kteří se o to také pokoušejí a kteří by chtěli ty 2 miliardy dolarů pro sebe. Vítězství v této soutěži vyžaduje g-faktor a svědomité úsilí po určitou dobu. Vzhledem k tomu, že OpenAI odmítá cokoli měřit nebo nechat kohokoli jiného skutečně něco měřit, jedná se pouze o jeden datový bod; Ale když někdo data skrývá, nemůžete mu dovolit, aby mu to prošlo tím, že všechna zbývající data odmítnete jako neoficiální. To není dobrá zpráva o tom, jaký druh lidí může ChatGPT jíst. Ano, ano, jsem si jistý, že ten chlapík byl atypicky náchylný pro manažera fondu za 2 miliardy dolarů. (Jak to víme? Protože mnoho dalších správců fondů ve výši 2 miliard dolarů používá ChatGPT a dosud se veřejně nezbláznili.) Je to nicméně malá špetka špatných zpráv o tom, jak dobrý je ChatGPT při vytváření psychózy ChatGPT; je to v rozporu s příběhem, kde se to děje pouze lidem s dostatečně nízkým postavením, aby bylo společnostem zabývajícím se umělou inteligencí umožněno je prolomit.
5,27K