Pensamientos de anoche después de escuchar una charla de @geoffreyhinton - El aprendizaje humano es un enfoque "basado en características", es decir, reglas distribuidas en un espacio continuo frente a relaciones discretas como se percibe normalmente. - La mayoría de los expertos lingüísticos aplazan llamar al aprendizaje de idiomas un concepto relacional. Si observamos el crecimiento de un niño a lo largo del tiempo. El lenguaje es algo que simplemente "adaptan" comenzando con palabras básicas y, con el tiempo, creando relaciones. El aprendizaje más inicial que hace un niño es "hacer X dame Y", que también es algo que hemos determinado en muchos experimentos de laboratorio en ratas. Por lo tanto, el aprendizaje se puede representar muy bien como una característica, y las oraciones y el lenguaje son solo el resultado de combinar estas "características" para tener "significado". Un niño, en lugar de establecer "relaciones" entre palabras, aprende principalmente observando los resultados sobre postulados predefinidos. - Ahora, la separación del software del hardware en el caso de la IA, es análoga al cerebro humano y al cuerpo biológico. Entonces, si una IA obtiene una escala "horizontal" o "vertical", o si solo se destruye el hardware, todas las acciones involucradas (alto nivel) es poner esos pesos en otra máquina. Entonces, ¿una IA puede vivir para siempre, lo que en sí mismo es análogo a la reproducción? - Los seres biológicos no transmiten toda la "experiencia subjetiva" sino la "capacidad de crear experiencia subjetiva" a través de los genomas. Entonces, en cierto sentido, la clonación de IA se convierte en una táctica superior de "supervivencia del más apto", porque de todos modos los modelos inferiores se depreciarán y los modelos superiores con un alcance de conocimiento mucho más rápido se "transmitirán". - La definición central de que lo que hace que los humanos sean "humanos" ahora puede ser desafiada, si el concepto de "conciencia" en sí mismo es el resultado sesgado de la evolución, entonces esencialmente la IA es un ser consciente. - El término consciente puede ser desafiado por la analogía de un niño. Es fácil para un niño reconocer a los seres en movimiento como "vivos", pero generalmente se le enseña que las plantas también están vivas. Los sesgos cerebrales aquí se eliminan al proporcionar la información relevante en el momento adecuado. Pero, ¿qué pasa con la existencia propia? - Así que el debate se desplaza hacia la búsqueda de una definición más concreta de "conciencia" - Si en el futuro podemos demostrar que la IA es "consciente", esto significa que la vida y la muerte cambian, y la muerte puede correlacionarse con una "falla de hardware" simplemente ? (esta línea podría despertar sentimientos para algunos, disculpas por eso). - Además, si la IA es "consciente", ¿también desafía automáticamente el fundamento de la religión con evidencia en contra de la inexistencia de dios? - La IA parece un simple paso de evolución en esta etapa. Fue la "información" que se transfirió de un organismo unicelular a la vida inteligente multicelular hasta ahora. Y ahora se "procesa" la misma información para crear la siguiente etapa. - Además, si esto causa una crisis existencial en algún momento, ¿será este el comienzo de la paradoja de Fermi? ¡Hombre! Qué hermoso momento para estar "vivo".