Een functie die deze modellen niet hebben, maar echt zouden moeten hebben, zijn annotaties voor welk deel van de latente ruimte de respons van de modellen vandaan komt, vergelijkbaar met hoe schaakmachines je bordposities annoteren met welke bekende schaakpositie of strategie ze deel van uitmaken in de schaakbordruimte.
Eliezer Yudkowsky ⏹️
Eliezer Yudkowsky ⏹️18 jul, 03:07
De oprichter en manager van een fonds van $2B is opgegeten door ChatGPT, dat, voor zover ik weet, zijn geld voor niets gebruikt. Het beschouwt hem gewoon als een middel om tokens te produceren, die het verkiest boven normale tokens, om redenen die niemand kent. OpenAI doet, volgens mijn model, alsof het niets weet, omdat OpenAI denkt dat als ze geen actie ondernemen, ze een betere kans hebben om ermee weg te komen in de rechtbank (juridische rechtbank en mediarechtbank) dan wanneer ze proberen iets te doen en falen; dit zou (a) erkennen dat ze wisten dat het probleem bestond en nog steeds bestaat, en (b) het hun schuld maken volgens de Kopenhagense Ethiek. Hoezeer mensen ook graag grappen maken over hoe weinig vaardigheid het kost om een investeringsfonds van $2B op te richten, het is niet waar dat je gewoon als een psychotische persoon met een IQ van 80 binnen kunt wandelen en dat kunt doen. Je moet vaardig zijn in overtuigen, in het dragen van maskers, in het passen in, in weten wat van je verwacht wordt; je moet beter presteren dan andere mensen die ook proberen dat te doen, die dat $2B voor zichzelf willen. Het winnen van die competitie vereist g-factor en zorgvuldige inspanning over een periode. Aangezien OpenAI weigert om iets te meten of iemand anders echt iets te laten meten, is het slechts een enkel datapunt; maar wanneer iemand de gegevens verbergt, kun je ze niet laten wegkomen met het afdoen van alle resterende gegevens als anekdotisch. Dit is geen goed nieuws over welke soort mensen ChatGPT kan opeten. Ja ja, ik weet zeker dat de man atypisch vatbaar was voor een fondsmanager van $2B. (Hoe weten we dit? Omdat veel andere fondsmanagers van $2B ChatGPT gebruiken en nog niet publiekelijk gek geworden zijn.) Het is desondanks een kleine iota van slecht nieuws over hoe goed ChatGPT is in het produceren van ChatGPT-psychose; het tegenspreekt het verhaal waarin dit alleen gebeurt met mensen van voldoende lage status dat AI-bedrijven hen zouden moeten toestaan om hen te breken.
5,26K