AI-FORESPØRSEL → AI-VERIFISERING AI-forespørsel skaleres, fordi forespørsel bare er å skrive. Men AI-verifisering skalerer ikke, fordi verifisering av AI-utdata innebærer mye mer enn bare skriving. Noen ganger kan du verifisere med øyet, og det er derfor AI er flott for frontend, bilder og video. Men for noe subtilt, må du lese koden eller teksten dypt – og det betyr å kjenne emnet godt nok til å korrigere AI. Forskere er godt klar over dette, og det er derfor det er så mye arbeid med evals og hallusinasjoner. Konseptet med verifisering som flaskehals for AI-brukere er imidlertid underdiskutert. Ja, du kan prøve formell verifisering, eller kritiske modeller der en AI sjekker en annen, eller andre teknikker. Men i det hele tatt å være klar over problemet som et førsteklasses problem er halve kampen. For brukere: AI-verifisering er like viktig som AI-forespørsel.