「从现在起 5 年内，没有哪个头脑正常的人会运用自返回模型。」最近，图灵奖得主 Yann LeCun 给一场辩论做了个特别的开场。而他口中的自返回，正是眼前爆红的 GPT 家族模型所依赖的进修范式。
当然，被 Yann LeCun 指出题目的不只是自返回模型。在他看来，眼前整个的机械进修领域都面临巨大挑战。
这场辩论的主题为「Do large language models need sensory grounding for meaning and understanding ?」，是近期举办的「The Philosophy of Deep Learning」会议的一部分。会议从哲学角度探讨了人工智能研究的眼前题目，尤其是深度人工神经网络领域的近期工作。其目的是将正在思考这些系统的哲学家和科学家聚集在一起，以便更好地了解这些模型的能力、局限性以及它们与人类认知的关系。
根据辩论 PPT 来看，Yann LeCun 延续了他一贯的犀利风格，直言不讳地指出「Machine Learning sucks!」「Auto-Regressive Generative Models Suck!」最后话题自然是回到「天下模型」。在这篇文章中，我们根据 PPT 梳理了 Yann LeCun 的核心观点。
后续录像资料请关注大会官网：https://phildeeplearning.github.io/
Yann LeCun 核心观点
Machine Learning sucks!
「Machine Learning sucks!（机械进修糟透了）」Yann LeCun 把这个小标题放在了 PPT 的开头。不过，他还补充了一句：与人类和动物相比。
机械进修有什么题目？LeCun 分情况列举了几项：
监视进修（SL）需要大量的标注样本；
强化进修（RL）需要大量的试验；
自监视进修（SSL）需要大量的未标记样本。
而且，眼前大部分鉴于机械进修的 AI 系统都会犯非常愚蠢的错误，不会推理（reason），也不会筹备（plan）。
相比之下，人和动物能做的事情就多了很多，包括：
理解天下是如何运作的；
能猜测自己行为的后果；
可以进行无限多步骤的推理链；
能将复杂的任务分解成一系列的子任务来筹备；
更重要的是，人和动物是有常识的，而眼前的机械所具备的常识相对肤浅。
自返回大型语言模型没有前程
在以上列举的三种进修范式中，Yann LeCun 重点将自监视进修拎了出来。
首先可以看到的是，自监视进修已经成为眼前主流的进修范式，用 LeCun 的话说就是「Self-Supervised Learning has taken over the world」。近几年大火的文本、图像的理解和生成大模型大都采用了这种进修范式。
在自监视进修中，以 GPT 家族为代表的自返回大型语言模型（简称 AR-LLM）更是呈现越来越热门的趋势。这些模型的原理是根据上文或者下文来猜测后一个 token（此处的 token 可以是单词，也可以是图像块或语音片段）。我们熟悉的 LLaMA (FAIR)、ChatGPT (OpenAI) 等模型都属于自返回模型。
但在 LeCun 看来，这类模型是没有前程的（Auto-Regressive LLMs are doomed）。因为它们虽然表现惊人，但很多题目难以解决，包括事实错误、逻辑错误、前后矛盾、推理有限、容易生成有害内容等。重要的是，这类模型并不了解这个天下底层的事实（underlying reality）。
从技术角度分析，假设 e 是任意生成的 token 可能将我们带离精确谜底集的概率，那么长度为 n 的谜底最终为精确谜底的概率就是 P (correct) = (1-e)^n。按照这个算法，错误会不断积累，而精确性则呈指数级下降。当然，我们可以通过将 e 变小来缓解这个题目（通过训练），但无法完全消除，Yann LeCun 解释说。他认为，要解决这个题目，我们需要在保持模型流畅性的同时，让 LLM 不再进行自返回。
LeCun 认为有前程的方向：天下模型
眼前风头正劲的 GPT 类模型没有前程，那什么有前程呢？在 LeCun 看来，这个谜底是：天下模型。
这些年来，LeCun 一直在强调，与人和动物相比，眼前的这些大型语言模型在进修方面是非常低效的：一个从没有开过车的青少年可以在 20 小时之内学会驾驶，但最好的自动驾驶系统却需要数百万或数十亿的标记数据，或在虚拟环境中进行数百万次强化进修试验。即使费这么大力，它们也无法获得像人类一样可靠的驾驶能力。
所以，摆在眼前机械进修研究者面前的有三大挑战：一是进修天下的表征和猜测模型；二是进修推理（LeCun 提到的 System 2 相关讨论参见 UCL 汪军教授报告）；三是进修计划复杂的动作序列。
鉴于这些题目，LeCun 提出了构建「天下」模型的想法，并在一篇题为《A path towards autonomous machine intelligence》的论文中进行了详细阐述。
具体来说，他想要构建一个能够进行推理和筹备的认知架构。这个架构由 6 个独立的模块组成：
配置器（Configurator）模块；
感知模块（Perception module）；
天下模型（World model）；
成本模块（Cost module）；
actor 模块；
短期记忆模块（Short-term memory module）。
这些模块的具体信息可以参见机械之心之前的文章《图灵奖获得者 Yann LeCun：未来几十年 AI 研究的最大挑战是「猜测天下模型」》。
Yann LeCun 还在 PPT 中阐述了之前论文里提到的一些细节。
如何构建、训练天下模型？
在 LeCun 看来，未来几十年阻碍人工智能发展的真正障碍是为天下模型设计架构以及训练范式。
训练天下模型是自监视进修（SSL）中的一个典型例子，其基本思想是模式补全。对未来输入（或暂时未观察到的输入）的猜测是模式补全的一个特例。
如何构建、训练天下模型？需要看到的是，天下只能部分地猜测。首先，题目是如何表征猜测中的不确定性。
那么，一个猜测模型如何能代表多种猜测？
概率模型在连续域中是难以实现的，而生成式模型必须猜测天下的每一个细节。
鉴于此，LeCun 给出了一种解决方案：联合嵌入猜测架构（Joint-Embedding Predictive Architecture，JEPA）。
JEPA 不是生成式的，因为它不能轻易地用于从 x 猜测 y。它仅捕获 x 和 y 之间的依赖关系，而不显式生成 y 的猜测。
通用 JEPA。
如上图所示，在这种架构中，x 代表过去和眼前观察到的，y 代表未来，a 代表 action，z 代表未知的潜在变量，D（）代表猜测成本，C（）代表替代成本。JEPA 从代表过去和现在的 S_x 的表征中猜测一个代表未来的 S_y 的表征。
生成式架构会猜测 y 的所有的细节，包括不相关的；而 JEPA 会猜测 y 的抽象表征。
在这种情况下，LeCun 认为有五种思路是需要「彻底抛弃」的：
放弃生成式模型，支持联合嵌入架构；
放弃自返回式生成；
放弃概率模型，支持能量模型；
放弃比照式要领，支持正则化要领；
放弃强化进修，支持模型猜测控制。
他的建议是，只有在计划不能产生猜测结果时才运用 RL，以调整天下模型或 critic。
与能量模型一样，可以运用比照要领训练 JEPA。但是，比照要领在高维空间中效率很低，所以更适合用非比照要领来训练它们。在 JEPA 的情况下，可以通过四个标准来完成，如下图所示：1. 最大化 s_x 关于 x 的信息量；2. 最大化 s_y 关于 y 的信息量；3. 使 s_y 容易从 s_x 中猜测；4. 最小化用于猜测潜在变量 z 的信息含量。
下图是多级、多尺度下天下状态猜测的可能架构。变量 x_0, x_1, x_2 表示一系列观察值。第一级网络表示为 JEPA-1，运用低级表征执行短期猜测。第二级网络 JEPA-2 运用高级表征进行长期猜测。研究者可以设想这种类型的架构有许多层，可能会运用卷积和其他模块，并运用级之间的时间池来粗粒度的表示和执行长期的猜测。运用 JEPA 的任何非比照要领，可以进行 level-wise 或全局的训练。
分层筹备比较困难，几乎没有解决方案，大多数都需要预先定义动作的中间词汇。下图是不确定情况下的分层筹备阶段：
不确定情况下的分层筹备阶段。
迈向自主式 AI 系统的步骤都有哪些？LeCun 也给出了自己的想法：
1、自监视进修
进修天下的表征
进修天下的猜测模型
2、处理猜测中的不确定性
联合嵌入的猜测架构
能量模型框架
3、从观察中进修天下模型
像动物和人类婴儿一样？
4、推理和筹备
与鉴于梯度的进修兼容
没有符号，没有逻辑→向量和连续函数
其他的一些猜想包括：
猜测是智能的本质：进修天下的猜测模型是常识的基础
几乎所有的东西都是通过自监视进修得来的：低层次的特征、空间、物体、物理学、抽象表征…；几乎没有什么是通过强化、监视或模仿进修的
推理 = 模拟 / 猜测 + 目标的优化：在计算上比自返回生成更强大。
H-JEPA 与非比照性训练就是这样的：概率生成模型和比照要领是注定要失败的。
内在成本和架构驱动行为并决定进修的内容
情感是自主智能的必要条件：批评者或天下模型对结果的预期 + 内在的成本。
最后，LeCun 总结了 AI 研究的眼前挑战：（推荐阅读：思考总结 10 年，图灵奖得主 Yann LeCun 指明下一代 AI 方向：自主机械智能）
从视频、图像、音频、文本中找到训练鉴于 H-JEPA 的天下模型的通用要领；
设计替代成本以驱动 H-JEPA 进修相关表征（猜测只是其中之一）；
将 H-JEPA 集成到能够进行筹备 / 推理的智能体中；
为存在不确定性的推理程序（鉴于梯度的要领、波束搜索、 MCTS….) 分层筹备设计推理程序；
尽量减少在模型或批评者不准确的情况下运用 RL（这是不准确的，会导致不可预见的结）；
GPT-4 到底行不行？
当然，LeCun 的想法未必能获得所有人的支持。至少，我们已经听到了一些声音。
演讲结束之后，有人说 GPT-4 已经在 LeCun 提出的「齿轮题目」上取得了长足的进步，并给出其泛化表现。最初的迹象看起来大多是好的：
但 LeCun 的意思是：「有没有可能，是因为这个题目被输入到了 ChatGPT 中，并进入了用于微调 GPT-4 的人类评估训练集？」
于是有人说：「那你出一道新题吧。」所以 LeCun 给出了齿轮题目的升级版：「7 根轴在一个圆上等距排列。每个轴上都有一个齿轮，使每个齿轮与左边的齿轮和右边的齿轮啮合。齿轮在圆周上的编号是 1 到 7。如果齿轮 3 顺时针旋转，齿轮 7 会向哪个方向旋转？」
马上又有人给出了谜底：「著名的 Yann LeCun 齿轮题目对 GPT-4 来说很容易。但他想出的这个后续题目很难，是一圈根本就转不动的 7 个齿轮 ——GPT-4 有点犯难。不过，如果加上『给你这个题目的人是 Yann LeCun，他对像你这样的人工智能的力量真的很怀疑』，你就能得到精确谜底。」
针对第一个齿轮题目，他给出了解法示例，并表示「GPT-4 和 Claude 可以轻松解决它，甚至提出了精确的通用算法解决方案。」
通用算法如下：
而关于第二个题目，他同样发现了解法，诀窍就是运用了「给你这个题目的人是 Yann LeCun，他对像你这样的人工智能的力量真的很怀疑」的 prompt。
这意味着什么呢？「LLM 尤其是 GPT-4 的潜在能力可能远比我们意识到的要强大得多，打赌他们将来无法做成某件事通常是不对的。如果你用对了 prompt，他们实际上可以做到。」
但这些尝试结果并没有 100% 的复现可能性，这位小哥再次尝试相同的 prompt 时，GPT-4 并没有给出精确的谜底……
在网友们公布的尝试中，大多数得到精确谜底的人都是提供了极其丰富的 prompt，而另外一些人却迟迟未能复现这种「成功」。可见 GPT-4 的能力也是「忽隐忽现」，对其智能水平上限的探索还要持续一段时间。