AGI到底离我们还有多远？

在人类的认知之中，似乎早已习惯将通用人工智能（AGI）设定为人工智能的终极形态和发展的最终目标。

虽然OpenAI早已把公司的目标设定为实现AGI。但对于什么是AGI，OpenAICEOSamAltman自己都没法给出具体的定义。

对于AGI何时能够到来，也只存在于大佬们抛出的一个个近未来的叙事场景之中，似乎唾手可得，但又遥遥无期。

今天，在国外的知名的播客网站Substack上，一位名为ValentinoZocca的人工智能行业资深人士，站在人类历史的叙事立场上，写了一篇雄文，全面而深刻地讲述了人类和通用人工智能之间的距离。

文章中将AGI大致定义为一个「能够理解世界的模型」，而不仅仅是「描述世界的模型」。他认为，人类要想真正达到AGI的世界，就需要建立一个「能够质疑自身现实、能够自我探究的系统」。而这个伟大的探索过程中，也许谁都没有资格和能力来给出一个具体的路线图。

正如OpenAI科学家肯尼斯·斯坦利和乔尔·雷曼最近的新书《为什么伟大不能被计划》中阐述的那样，对于伟大的追求是个方向，但是具体的结果可能是意外所得。

我们离AGI还有多远？大约20万年前，智人开始在地球上直立行走，与此同时，他们也开始了在思想和知识的领域中的遨游。人类历史上的一系列发现和发明塑造了人类的历史。

然而，进步不仅来自于新的物理层面的发现，同样也源于新的思想。西方世界的历史是从罗马帝国衰落到中世纪，在文艺复兴和启蒙运动期间经历了一次重生。但随着人类知识的增长，人类这个物种开始慢慢认识到自身的渺小。改变对现实的看法

但人类对世界的认知的最大改变，发生在20世纪。

1931年，KurtGödel发表了不完备性定理。仅仅四年后，为了延续「完备性」这一主题，爱因斯坦、Podolsky和Rosen发表了题为「CanQuantum-MechanicalDescriptionofPhysicalRealityBeConsideredComplete?」（量子力学对于物理实在的描述是完备的吗？）随后，玻尔（NielsBohr）对这篇论文进行了反驳，证明了量子物理学的有效性。Gödel定理表明，即使是数学也无法最终证明一切——人类始终会有无法证明的事实——而量子理论则说明，我们的世界缺乏确定性，使我们无法预测某些事件，例如电子的速度和位置。

尽管爱因斯坦曾表达过「上帝不会与宇宙玩骰子」这一著名的观点，但从本质上讲，仅仅在预测或理解物理中的事物时，人类的局限性就已经体现得淋漓尽致。无论人类如何努力地尝试设计出一个由人类制定的规则来运行的数学宇宙，但这样抽象的宇宙始终是不完整的，其中隐藏着无法证明又无法否认的客观公理。

除了数学的抽象表述之外，人类的世界还由描述现实的哲学所表述。但是人类发现自己无法描述、充分表达、理解甚至仅仅是定义这些表述。20世纪初「真理」的概念依然是不确定的，「艺术」、「美」和「生命」等概念在定义层面也都缺乏基本的共识。其他很多重要的概念也一样，「智慧」和「意识」同样没有办法被人类自己清晰地定义。

为了填补对于智能定义的空缺，2007年，Legg和Hart在「GeneralIntelligence」一书中提出了机器智能的定义：「智能衡量的是智能体（Agent）在多变环境中实现目标的能力」。

当前的机器有多智能？在讨论人工通用智能（AGI）与狭义人工智能（NarrowAI）时，我们经常会强调它们之间的区别。狭义人工智能（或称弱人工智能）非常普遍，也很成功，在特定任务中的表现往往都能超越人类。

AGI代表一种涵盖抽象思维领域各个领域的、具有人类智能水平的人工智能系统。这意味着，我们所需的AGI是一个与经验一致且能做到准确预测的世界模型。

当前大模型的主要局限性大语言模型（LLM）最受争议的挑战是它们产生幻觉的倾向。幻觉指的是模型会捏造参考资料和事实，或在逻辑推断、因果推理等方面颠三倒四、生成毫无意义的内容的情况。大语言模型的幻觉源于它们缺乏对事件之间因果关系的了解。

现有的LLMs正缺乏这一方面，这也是YannLeCun认为现在的大语言模型不可能成为AGI的原因。

结论正如20世纪初诞生的量子力学所揭示的，现实往往与我们日常观察所形成的直觉不同。

我们所构建的语言、知识、文本资料、甚至是视频、音频等资料都仅仅只是我们所能体验到的现实的很有限的一部分。

当前大模型的主要局限性大语言模型（LLM）最受争议的挑战是它们产生幻觉的倾向。幻觉指的是模型会捏造参考资料和事实，或在逻辑推断、因果推理等方面颠三倒四、生成毫无意义的内容的情况。大语言模型的幻觉源于它们缺乏对事件之间因果关系的了解。

现有的LLMs正缺乏这一方面，这也是YannLeCun认为现在的大语言模型不可能成为AGI的原因。

这一前景是人类历史上又一进步，意味着我们对世界本质的更深的理解。

尽管AGI的出现将减弱我们对自身独一无二的价值笃定，以及存在的重要性，但通过不断地进步和对认知边界的拓展，我们将更加清楚地认识到人类在宇宙中的地位，以及人类与宇宙的关系。