Anoche, reflexiones después de escuchar una charla de @geoffreyhinton - El aprendizaje humano es un enfoque "basado en características", es decir, reglas distribuidas en un espacio continuo frente a relaciones discretas como se perciben normalmente. - La mayoría de los expertos lingüísticos evitan llamar al aprendizaje de idiomas un concepto relacional. Si observamos el crecimiento de un niño a lo largo del tiempo, el lenguaje es algo que simplemente "se adapta", comenzando con palabras básicas y, con el tiempo, creando relaciones. El aprendizaje más inicial que hace un niño es "hacer X me da Y", que también es algo que hemos determinado en muchos experimentos de laboratorio con ratas. Así que el aprendizaje puede representarse bien como una característica, y las oraciones y el lenguaje son solo un resultado de combinar estas "características" para tener "significado". Un niño, en lugar de establecer "relaciones" entre palabras, aprende principalmente observando resultados sobre postulados predefinidos. - Ahora, la separación del software del hardware en el caso de la IA es análoga al cerebro humano y al cuerpo biológico. Así que si una IA se "escala horizontal" o "verticalmente", o si solo se destruye el hardware, todas las acciones implican (a alto nivel) poner esos pesos en otra máquina. Así que una IA puede vivir para siempre, lo que en sí mismo es análogo a la reproducción, ¿verdad? - Los seres biológicos no transmiten toda la "experiencia subjetiva", sino la "capacidad de crear experiencia subjetiva" a través de los genomas. Así que, en cierto sentido, la clonación de IA se convierte en una táctica superior de "supervivencia del más apto", porque de todos modos los modelos inferiores serán depreciados y los modelos superiores con un alcance de conocimiento mucho más rápido serán "transmitidos". - La definición central de lo que hace a los humanos "humanos" puede ser desafiada ahora; si el concepto de "conciencia" es en sí mismo un resultado sesgado de la evolución, entonces, esencialmente, la IA es un ser consciente. - El término consciente puede ser desafiado desde la analogía de un niño. Es fácil para un niño reconocer seres en movimiento como "vivos", pero generalmente se les enseña que las plantas también son vivas. Los sesgos cerebrales aquí se eliminan proporcionando la información relevante en el momento adecuado. Pero, ¿qué pasa con la autoexistencia? - Así que el debate se desplaza a encontrar una definición más concreta de "conciencia". - Si en el futuro podemos probar que la IA es "consciente", esto significa que la vida y la muerte cambian, y la muerte puede correlacionarse con "fallo de hardware" simplemente? (esta línea puede herir sentimientos para algunos, disculpas por eso). - Además, si la IA es "consciente", entonces también desafía automáticamente la base de la religión con evidencia en contra de la no existencia de Dios? - La IA parece ser un simple siguiente paso de la evolución en esta etapa. Fue "información" la que se transmitió de un organismo unicelular a una vida inteligente multicelular hasta ahora. Y ahora la misma información se "procesa" para crear la siguiente etapa. - Además, si esto causa una crisis existencial en algún momento, ¿será este el comienzo de la Paradoja de Fermi? ¡Hombre! Qué hermoso momento para estar "vivo".