约翰·卡马克：AGI的代码可能由一个人编写 在辞去Meta的Oculus VR首席技术官职务后，传奇程序员约翰·卡马克正在考虑是从事核裂变还是人工通用智能（AGI）。他最终选择了AGI。 “我认为[裂变]是可能的，”约翰说。“应该有人在做这件事，但这将涉及一些政治、相当规模的团队，以及一堆我不喜欢的跨职能工作。而人工通用智能在我看来似乎是一个单个个体在世界历史上可能拥有的最高杠杆时刻。” 他解释道： “根据我们对大脑的了解以及我们可以用人工智能做的事情……我并不是疯子，认为人工通用智能的代码可能是数万行代码——而不是数百万行代码。” 他继续说道： “这段代码可能由一个人编写，这与编写新的网页浏览器或操作系统不同。根据机器学习在最近十年取得的进展，重要的事情我们不知道的相对简单。可能有几件事情——我打赌少于六个关键见解——需要被发现。每一个都可能在信封的背面写下。我们不知道它们是什么，但当它们与大规模的GPU和我们所有人可以访问的数据结合在一起时，我们可以创造出像人类或生物一样行为的东西，然后可以以我们需要的任何方式进行教育，以达到我们可以拥有普遍远程工作者的程度，任何人通过计算机进行的操作，不需要物理互动，AGI都能够做到。” 卡马克认为这不会是“难以接近的”： “这说法非常自负，但我几年前说过，到2030年某处可能会有AGI生命迹象的概率是50%，而我现在可能稍微提高了这个概率——也许现在是55-60%，因为我确实觉得有一点加速的感觉。” 视频来源：@lexfridman (2022)