Tanker i går kveld etter å ha lyttet til et foredrag fra @geoffreyhinton - Menneskelig læring er "funksjonsbasert" tilnærming, det vil si regler spredt ut i et kontinuerlig rom kontra diskrete relasjoner som normalt oppfattes. - De fleste språkeksperter utsetter å kalle språklæring et relasjonelt konsept. Hvis vi observerer et barns vekst over tid. Språket er noe de bare "tilpasser seg" fra grunnleggende ord, og over tid skaper relasjoner. Den mest innledende læringen som et barn gjør er å "gjøre X gi meg Y", som også er noe vi har bestemt i mange laboratorieeksperimenter på rotter. Så læring kan fint representeres som en funksjon, og setninger og språk er bare et resultat av å kombinere disse "funksjonene" sammen for å ha "mening". Et barn lærer for det meste ved å observere utfall over forhåndsdefinerte postulater i stedet for å etablere "relasjoner" mellom ord. - Nå er separasjon av programvare fra maskinvare i tilfelle ai, analogt med menneskelig hjerne og den biologiske kroppen. Så hvis en AI får "horisontal" eller "vertikal" skala, eller hvis bare maskinvaren blir ødelagt, er alle handlingene involvert (høyt nivå) å sette disse vektene på en annen maskin. Så en AI kan leve evig, noe som i seg selv er analogt med reproduksjon da? - Biologiske vesener viderefører ikke all den "subjektive opplevelsen", men "evnen til å skape subjektiv opplevelse" via genomer. Så på en måte blir AI-kloning en overlegen "survival of the fittest"-taktikk, for uansett vil de dårligere modellene bli avskrevet og overlegne modeller med et langt raskere kunnskapsomfang vil bli "gitt videre". - Kjernedefinisjonen om at det som gjør mennesker «menneskelige» nå kan utfordres, hvis begrepet «bevissthet» i seg selv er et skjevt resultat av evolusjon, så er AI i hovedsak et bevisst vesen. - Begrepet bevisst kan utfordres fra et barns analogi. Det er lett for et barn å gjenkjenne vesener i bevegelse som "levende", men vanligvis lært at planter også lever. Hjerneskjevhetene her fjernes ved å gi relevant informasjon til rett tid. Men hva med selveksistens? - Så debatten skifter til å finne en mer konkret definisjon av "bevissthet" - Hvis vi i fremtiden er i stand til å bevise at AI er "bevisst", betyr dette at liv og død endres, og død kan korreleres med "maskinvarefeil" rett og slett? (denne linjen kan hjertefølelser for noen få, beklager det). - Også hvis AI er "bevisst" så utfordrer den også automatisk grunnlaget for religion med bevis mot ikke-eksistens av gud? - AI virker som et enkelt neste trinn i utviklingen på dette stadiet. Det var "informasjon" som ble overført fra en encellet organisme til flercellet intelligent liv så langt. Og nå blir den samme informasjonen "behandlet" for å opprette neste trinn. - Også hvis dette forårsaker eksistensiell krise på et tidspunkt, vil dette være starten på Fermi Paradox? Mann! For en vakker tid å være "i live".