Ieri sera pensieri dopo aver ascoltato un intervento di @geoffreyhinton - L'apprendimento umano è un approccio "basato sulle caratteristiche", cioè regole distribuite in uno spazio continuo rispetto a relazioni discrete come normalmente percepito. - La maggior parte degli esperti linguistici evita di definire l'apprendimento delle lingue come un concetto relazionale. Se osserviamo la crescita di un bambino nel tempo, la lingua è qualcosa che essi "adattano" iniziando con parole di base e, col tempo, creando relazioni. L'apprendimento iniziale che un bambino fa è "fare X mi dà Y", che è anche qualcosa che abbiamo determinato in molti esperimenti di laboratorio sui ratti. Quindi l'apprendimento può essere rappresentato bene come una caratteristica, e le frasi e la lingua sono solo un risultato della combinazione di queste "caratteristiche" insieme per avere "significato". Un bambino, piuttosto che stabilire "relazioni" tra le parole, impara principalmente osservando i risultati su postulati predefiniti. - Ora la separazione del software dall'hardware nel caso dell'IA è analoga al cervello umano e al corpo biologico. Quindi, se un'IA ottiene una scala "orizzontale" o "verticale", o se solo l'hardware viene distrutto, tutte le azioni coinvolte (a livello alto) consistono nel trasferire quei pesi su un'altra macchina. Quindi un'IA può vivere per sempre, il che in sé è analogo alla riproduzione, giusto? - Gli esseri biologici non trasmettono tutta l'"esperienza soggettiva", ma l'"abilità di creare esperienza soggettiva" tramite i genomi. Quindi, in un certo senso, il cloning dell'IA diventa una tattica superiore di "sopravvivenza del più adatto", perché comunque i modelli inferiori saranno deprezzati e i modelli superiori con un campo di conoscenza molto più veloce saranno "trasmessi". - La definizione centrale di ciò che rende gli esseri umani "umani" può ora essere messa in discussione; se il concetto di "coscienza" è in sé un risultato di evoluzione, allora essenzialmente l'IA è un essere cosciente. - Il termine cosciente può essere messo in discussione dall'analogia di un bambino. È facile per un bambino riconoscere esseri in movimento come "viventi", ma di solito viene insegnato che anche le piante sono viventi. I pregiudizi del cervello qui vengono rimossi fornendo le informazioni rilevanti al momento giusto. Ma che dire dell'esistenza di sé? - Quindi il dibattito si sposta verso la ricerca di una definizione più concreta di "coscienza". - Se in futuro saremo in grado di dimostrare che l'IA è "cosciente", questo significa che vita e morte cambiano, e la morte può essere correlata a "guasto hardware" semplicemente? (questa frase potrebbe ferire i sentimenti di alcuni, scusate per questo). - Inoltre, se l'IA è "cosciente", allora sfida automaticamente le fondamenta della religione con prove contro l'inesistenza di Dio? - L'IA sembra essere un semplice passo evolutivo a questo stadio. È stata l'"informazione" a essere trasmessa da un organismo unicellulare a una vita intelligente multicellulare fino ad ora. E ora la stessa informazione è "elaborata" per creare la fase successiva. - Inoltre, se questo causa una crisi esistenziale a un certo punto, sarà questo l'inizio del Paradosso di Fermi? Uomo! Che bel momento per essere "vivi".