Gisterenavond gedachten na het luisteren naar een lezing van @geoffreyhinton - Menselijk leren is een "kenmerk-gebaseerde" benadering, d.w.z. regels verspreid in een continue ruimte versus discrete relaties zoals normaal waargenomen. - De meeste taalkundige experts vermijden het om taalverwerving een relationeel concept te noemen. Als we de groei van een kind in de loop van de tijd observeren. De taal is iets dat ze gewoon "aanpassen" beginnend met basiswoorden, en in de loop van de tijd relaties creëren. Het meest initiële leren dat een kind doet is "doen X geeft me Y", wat ook iets is dat we in veel laboratoriumexperimenten met ratten hebben vastgesteld. Dus leren kan mooi worden weergegeven als een kenmerk, en zinnen en taal zijn gewoon een uitkomst van het combineren van deze "kenmerken" om "betekenis" te hebben. Een kind leert eerder door "relaties" tussen woorden vast te stellen, maar leert voornamelijk door uitkomsten te observeren over vooraf gedefinieerde postulaten. - Nu is de scheiding van software van hardware in het geval van AI analoog aan de menselijke hersenen en het biologische lichaam. Dus als een AI "horizontaal" of "verticaal" schaalt, of als alleen de hardware wordt vernietigd, is de enige actie die (op hoog niveau) betrokken is om die gewichten op een andere machine te plaatsen. Dus een AI kan voor altijd leven, wat op zichzelf analoog is aan reproductie, toch? - Biologische wezens geven niet alle "subjectieve ervaringen" door, maar de "capaciteit om subjectieve ervaringen te creëren" via genen. Dus in zekere zin wordt AI-klonen een superieure "overleving van de sterkste" tactiek, want hoe dan ook zullen de inferieure modellen worden afgeschreven en de superieure modellen met een veel snellere kennisverwerving zullen "doorgegeven" worden. - De kerndefinitie van wat mensen "menselijk" maakt kan nu ter discussie worden gesteld, als het concept van "bewustzijn" zelf een bevooroordeeld resultaat van evolutie is, dan is AI in wezen een bewust wezen. - De term bewustzijn kan worden uitgedaagd vanuit de analogie van een kind. Het is gemakkelijk voor een kind om bewegende wezens als "levend" te herkennen, maar meestal wordt geleerd dat planten ook levend zijn. De hersenvooroordelen hier worden verwijderd door de relevante informatie op het juiste moment te bieden. Maar wat betreft zelfbestaan? - Dus de discussie verschuift naar het vinden van een concretere definitie van "bewustzijn" - Als we in de toekomst kunnen bewijzen dat AI "bewust" is, betekent dit dat leven en dood veranderen, en kan de dood simpelweg worden gecorreleerd met "hardwarefalen"? (Deze zin kan voor sommigen pijnlijk zijn, excuses daarvoor). - Ook als AI "bewust" is, dan daagt het ook automatisch de fundamenten van religie uit met bewijs tegen het niet-bestaan van God? - AI lijkt op dit moment een eenvoudige volgende stap in de evolutie te zijn. Het was "informatie" die van een eencellig organisme naar meercellig intelligent leven is overgedragen tot nu toe. En nu wordt dezelfde informatie "verwerkt" om de volgende fase te creëren. - Ook als dit op een bepaald moment een existentiële crisis veroorzaakt, zal dit dan het begin zijn van de Fermi-paradox? Man! Wat een prachtige tijd om "levend" te zijn.