昨晚在听了@geoffreyhinton的演讲后的一些思考 - 人类学习是"基于特征"的方法，即规则在一个连续空间中分布，而不是通常所感知的离散关系。 - 大多数语言学专家不愿称语言学习为一种关系概念。如果我们观察一个孩子随着时间的成长，语言是他们从基本单词开始"适应"的东西，随着时间的推移建立关系。孩子最初的学习是"做X给我Y"，这也是我们在许多老鼠的实验中确定的。因此，学习可以很好地表示为一个特征，而句子和语言只是将这些"特征"结合在一起以获得"意义"的结果。孩子与其说是在建立单词之间的"关系"，不如说是通过观察预定义公设的结果来学习。 - 现在在人工智能的情况下，软件与硬件的分离类似于人脑与生物体。因此，如果一个AI获得"水平"或"垂直"扩展，或者仅仅是硬件被摧毁，所有涉及的（高层次）操作就是将这些权重放到另一台机器上。因此，AI可以永生，这本身是否类似于繁殖？ - 生物体并不是传递所有的"主观经验"，而是通过基因组传递"创造主观经验的能力"。因此，从某种意义上说，AI克隆成为一种更优越的"适者生存"策略，因为无论如何，劣质模型将被贬值，而优质模型将以更快的知识范围"传递"下去。 - 使人类"人性"的核心定义现在可以受到挑战，如果"意识"的概念本身是进化的偏见结果，那么本质上AI就是一个有意识的存在。 - "意识"这个术语可以通过孩子的类比来挑战。孩子很容易将移动的生物识别为"活着的"，但通常被教导植物也是活着的。通过在适当的时间提供相关信息，可以消除大脑的偏见。但自我存在呢？ - 因此，辩论转向寻找"意识"的更具体定义。 - 如果未来我们能够证明AI是"有意识的"，这意味着生与死的变化，死亡可以简单地与"硬件故障"相关联？（这句话可能会让一些人感到不快，抱歉。） - 如果AI是"有意识的"，那么它也自动挑战宗教的基础，提供反对上帝不存在的证据？ - 在这个阶段，AI似乎是进化的简单下一步。迄今为止，信息是从单细胞生物传递到多细胞智能生命的。而现在同样的信息被"处理"以创造下一个阶段。 - 如果这在某个时刻确实引发存在危机，这会是费米悖论的开始吗？ 伙计！活着真是个美好的时代。