.@balajis říká, že umělá inteligence rozšiřuje mezeru v ověřování. K jejímu uzavření bude zapotřebí obrovské množství pracovních míst. Prompting zaplavuje svět padělky. Crypto přináší zpět důkaz. "Budete potřebovat kryptograficky hashované příspěvky a krypto ID ... abychom věděli, že s daty nebylo manipulováno." V éře umělé inteligence musí být důvěra vytvořena.
Andrej Karpathy
Andrej Karpathy5. 6. 2025
Dobrý příspěvek od @balajis o "ověřovací mezeře". Mohli byste to vidět tak, že ve stvoření jsou dva režimy. Přejímání terminologie GAN: 1) generování a 2) Diskriminace. např. malba - uděláte tah štětcem (1) a pak se chvíli díváte, zda jste malbu nevylepšili (2). Tyto dvě fáze se prolínají téměř ve všech tvůrčích pracích. Druhý bod. Diskriminace může být výpočetně velmi náročná. - Obrázky jsou zdaleka nejjednodušší. Týmy generátoru obrázků mohou například vytvářet obrovské mřížky výsledků, aby rozhodly, zda je jeden obrázek lepší než druhý. děkuji obřímu GPU ve vašem mozku stvořeném pro velmi rychlé zpracování obrázků. - Text je mnohem těžší. Dá se to skimmovat, ale dá se to číst, je to sémantické, diskrétní a přesné, takže musíte i uvažovat (zejména v kódu). - Zvuk je možná ještě těžší IMO, protože vynucuje časovou osu, takže to ani není přejížděcí. Jste nuceni utrácet sériové výpočty a vůbec je nemůžete paralelizovat. Dalo by se říci, že při kódování se LLM zhroutily (1) do ~instant, ale udělaly jen velmi málo pro řešení (2). Člověk stále musí zírat na výsledky a rozlišovat, zda jsou dobré. To je moje hlavní kritika LLM kódování v tom, že nenuceně vyplivují *příliš mnoho* příliš mnoho kódu na dotaz s libovolnou složitostí a předstírají, že neexistuje žádná fáze 2. Získat tolik kódu je špatné a děsivé. Místo toho s vámi LLM musí aktivně spolupracovat, aby rozdělil problémy do malých postupných kroků, z nichž každý je snadněji ověřitelný. Musí předvídat výpočetní práci (2) a co nejvíce ji omezit. Musí se o to opravdu starat. To mě přivádí k pravděpodobně největšímu nedorozumění, které nekodéři ohledně kódování mají. Myslí si, že kódování je o psaní kódu (1). Není. Je to o zírání na kód (2). To vše načítám do vaší pracovní paměti. Přecházel sem a tam. Promýšlení všech okrajových případů. Pokud mě přistihnete v náhodném bodě, když "programuji", pravděpodobně jen zírám na obrazovku a, pokud mě někdo vyruší, jsem opravdu naštvaný, protože je to tak výpočetně náročné. Pokud se dostaneme pouze mnohem rychleji na 1, ale také nesnížíme 2 (což je většina!), pak je jasné, že celková rychlost kódování se nezlepší (viz Amdahlův zákon).
465,98K