不知道大家有没有想过这样一个问题 如果说我们今天看到这一切 像ChatGPT的经验 深山式AI的狂潮 和数万亿美元砸出来这场技术革命 从根本上就走错路会是怎么样的 这话听起来特别像阴谋论对吧 一听就像是什么Gary Marcus这些 反对廉洁主义的人说的 但是有意思的是 说这话的并不是什么局外的批评家 而是刚刚拿下了图林奖的大神 理乍得·萨顿 你看这就很奇怪 萨顿老爷子 他可是强化学习的奠基人 是AlphaGo背后内核思想的源头之一 照理说他应该是这场AI生意里头 坐在主桌上的人 结果他却站出来说 今天最主流最火热的大语言模型 像ChatGPT4这些东西 根本不是通往真正智能的康庄大道 一个行业的奠基人 亲手为自己所在的领域敲响警钟 这背后到底发生什么 是他老了跟不上时代 还是他看到了我们所有人都没看到的 一个隐藏在大马身处的惨痛教训 我们今天就顺着萨顿老爷子 刚刚做的一期播客节目 来探寻一下 关于人工智能未来的路线之争 在我们进入主题之前 首先得简单了解一下 我们的主角理乍得·萨顿 你可以把它想象成 AI江湖中的一位扫地僧 大家如果认出了图中扫地僧的电视剧版本 请在评论区留个言 当所有人都去追逐那些光鲜亮丽的招式时 他却几十年如一日 就在琢磨一件事情 智能的本质是什么 早在上世纪80年代 当很多人还觉得 AI就是得靠进程员 写一大堆规则的时候 萨顿就已经开始 在捣鼓一套完全不同的东西了 他的内核想法特别朴素 也特别有力量 他说 真正的智能不是靠别人教会的 而是靠自己试出来的 你看就像一个小松鼠 学着怎么开坚果 他不知道正确答案 他只能自己去试 试对了就得到了奖励 比如说吃到了坚果 他就记住了这个行为 试错了没奖励 他就知道下次不能这么干了 这个过程就叫强化学习 这个思想在当时听起来有点笨 有点慢 但萨顿坚信 这才是真正通往人工智能 AGI的唯一道路 因为宇宙间的生物 从松鼠到人类 不都是这么学会生存的吗 记住这个内核观点 智能源于经验 而并非是教导 因为这正是他与今天 整个大语言模型 浪潮最根本的分歧所在 早在2019年 他就写了一篇 在AI圈丰盛的文章 叫做《惨痛的教训》 The Bitter Lesson 这篇文章就像一颗埋下的种子 预言了今天的所有争论 我们先按下不表 后面会揭晓 好了背景铺垫完了 我们回到2024年的现实 现实是什么 现实就是萨顿老爷子那堂慢功夫 似乎被一种大力出奇迹的哲学 给彻底碾压了 这就是我们现在都熟悉的 大语言模型的叙事 它逻辑简单粗暴 人类牛在哪 牛在有知识有文化对不对 那么我们把人类有史以来 所有的文本代码对话 整个互联网几万亿的token 全都喂给一个巨大的神经网络 你猜怎么着 结果一个怪物诞生了 它能跟你写诗 能聊天 能画画 甚至它能在国际数学 奥林匹克竞赛上拿金牌 这是什么概念 这可是人类最顶尖的智力游戏 它还能帮你写代码 而且越写越好 越来越像一个资深进程员 这看起来不就是萨顿 当年在惨痛教训里头说的 他说AI研究70年代历史 告诉我们 别总想搞那些 人类自己觉得精妙的小技巧 到头来真正管用的 是用更强的算力 去处理更多的数据 这种简单可扩展的笨方法 最终总能够打败 那些需要人类智能 精心设计的巧方法 你看大语言模型 不就是惨痛教训的终极体现吗 堆算力堆数据 最后智能就涌现了 这条路看起来又宽又直 通向AGI的罗马大道 似乎已经被OpenAI和谷歌 他们找到了 而且很多人会反驳萨顿说 你凭什么说大语言模型 没有理解世界 你看我问GPT-4一个物理问题 它能够给我正确答案 要是我让它规划一个 复杂的旅行路线 它需要考虑交通 天气地理位置 这不就是因为 它在海量的学习数据中 创建一个 关于我们这个世界的世界模型吗 它模仿了数万亿的人类语言 在这个困中 它拿到不就学会了 语言背后 那个世界运行的规律吗 就好像你读完了 莎士比亚全集 你自然就对人性 有了更深的理解 一个读完了 整个互联网的AI 它对于世界的理解 可能就已经超越 任何一个人类了 从这个角度来看 大语言模型 不仅是惨痛教训的胜利 更是构建通用人工智能 最合理的起点 我们可以先通过模仿学习 给模型一个 关于世界运作的 极其强大的鲜艳知识 然后再让它去跟这个世界互动 进行萨顿 你所说的那种经验学习 先上学再工作 这个逻辑不是很通畅吗 所以当萨顿老爷子出来 说一切都错了的时候 整个行业都觉得有点懵 这看起来明明是对的 哪里错了 那么萨顿老爷子反击 其实是非常精准的 总结起来就一句话 大语言模型 是一个没有目标的模仿者 什么意思 你看大语言模型的 内核任务是什么 是预测下一个词 你给他一句话 今天天气真 他就会预测下一个 最可能的词是好 他预测对了 就得到一个内部的奖励 然后调整自己的参数 但是萨顿一针见血的指出 这根本不算一个真正的目标 为什么 因为预测下一个词的行为 本身并不改变外部世界 它只是被动的 机械的模仿 它在训练数据中 看到的人类语言模式 他说的对与错 好与坏 在真实世界里头 是得不到反馈的 打个比方 就像一个学生 他不是去理解知识 而是把整本标准答案 给背了下来 你考他任何题 他都能给你写出正确答案 但是你问他一句为什么 或者出一道答案上 没有的新题 他就傻了 萨顿认为大语言模型 就是这个背答案的学生 他没有一个关于 什么是对的 是的根本定义 因为在真实世界里 一个行为对或者不对 取决于它是否能够帮助你 达成在物理世界里的一个目标 比如松鼠拿到坚果 或者人类赢得一盘棋 没有这个来自于 真正世界的基准真相 大语言模型 就成了一个 在语言符号迷宫里头 打转的幽灵 他永远无法真正知道 他在说什么 理解了没有基准真相要害 我们就能看懂 大语言模型 第一个 也是最著名的原罪 幻觉 也就是我们说的 一本正经的胡说八道 你看为什么大语言模型 会胡说八道 很多人以为 他是在训练数据里头 算论说不对 这只是表象原因 根本原因在于 他学习的方式 大语言模型的学习 本质上就是统计学的 模式匹配 他看到马和骑 这两个词经常一起出现 就学会了人可以骑马 但是如果他在数据里头 也看到了一些科幻小说 里面写着宇航员骑着恐龙 他也会把这个模式记下来 在大语言看来 人骑马和宇航员骑恐龙 只是两个概率不同的语言模式 他没有能力去判断 哪个更符合 物理世界的真实情况 因为他从来没有 和通过与世界互动 来学习世界 是两种完全不同的路径 一个婴儿 他会亲手去摸 去摔东西 他这东西往下掉 是他通过经验 创建起来 关于重力的世界模型 这是牢不可破的 而大语言模型 他只是读到了 关于重力的描述 如果有人写了篇文章 说重力是假的 他可能也会信以为真 所以萨顿说大语言模型 根本就没有创建起来 真正的世界模型 他创建的 只是一个人类 会如何描述世界的模型 他模仿的是 我们这些有世界模型的人 而不是世界本身 这两者之间 差着十万八千里 说到这里 访谈出现一个 特别有意思的交锋点 主持人开始挑战萨顿 他说不对 人类小孩 不也是从模仿 开始学习的吗 他模仿父母说话 模仿大人走路 不就是一种模仿学习吗 这个问题其实非常关键 因为它直接关系到 我们认为学习到底是什么 你猜萨顿怎么回答的 他直接说不 当然不 这个回答 直接是颠覆了 我们很多人的常识 萨顿说 你仔细观察一个婴儿 在他生命最初的几个月里 他做的最多事情是什么 是挥舞手脚 转动眼睛 发出各种不沉调的声音 他是在模仿谁吗 没有 他是在进行一场宏大的 无目标的自我探索 他在测试自己的身体能做什么 以及这个世界 会对他的行为做出什么反应 这才是学习最原始 最内核的驱动力 主动的试错和探索 萨顿甚至说 在整个动物心理学里 根本就没有模仿学习 这一个基本的学习过程 动物学习的内核 以往也是两件事 预测 接下来会发生什么 和试错 做什么能够得到奖励 我们熟知的监督学习 也就是有人告诉你 正确答案是什么 是在自然界中 几乎是不存在的 松鼠不上学 萨顿说 当然松鼠也能够学会 关于世界的一切 而人类的模仿行为 以及后来的学校教育 都只是创建在最底层的 经验学习系统之上的 一层薄薄的文化装饰 你看这个观点就非常震撼了 他等于说 大圆模型 所依赖的监督学习 和模仿学习 在萨顿看来 是一种非自然的学习方式 是一种创建在 非自然基础上的智能 它的根基可能就没有这么牢固 好了 经过前面两轮学习 我们已经看到 大圆模型 在理解世界和学习方式上 与萨顿哲学的根本冲突 现在我们回到 最关键的证据上了 萨顿自己的文章 惨痛的教训 这件事情 最有意思的地方在于 今天所有大圆模型的拥护者 都把这篇文章奉为圣经 他们说 你看萨顿自己都说了 最终的胜利 永远是通用可拓展的方法 比如说利用海量算力和数据 而不是依赖人类知识的小技巧 他们认为 大圆模型 就是教训完美的体现 我们放弃了过去那种 需要语言学家 逻辑学家 去精心设计规则的符号AI 而转用暴力计算来征服智能 但是萨顿自己 却完全不同意这个解读 萨顿说 你们都读错了 我惨痛教训 真正意思是 任何依赖人类智能 作为主要输入方法 最终都会碰到天花板 而真正可以拓展的 是那些可以从经验中 直接学习的方法 现在你再评比这句话 大圆模型靠什么训练 是整个互联网 是人类几千年来知识的总和 所以在萨顿的框架里头 大圆模型 恰恰就是依赖人类知识的 注定要失败的老路 没想到这简直就是一个惊天大反转 萨顿预言 大圆模型 很快就会达到它扩展的极限 也就是互联网上 所有高质量数据的极限 到那个时候 它的进步就会停滞 而真正可以无限扩展 无限学习的 是那种能像AlphaGo一样 通过自我对异 通过与真实或者模拟环境互动 来凭空创造新知识的智能体 所以惨痛的教训 不是在为大圆模型背书 而是在预言大圆模型的最终宿命 它就像历史上 所有依赖人类知识的AI范式一样 将被一种更通用 更根本的学习方法所超越 而这种学习方法 就是强化学习 为了让大家更具体的理解 萨顿所说的这条正确的路 到底什么样子 我们来看一个最好的例子 AlphaGo的进化 很多人都知道 AlphaGo击败了李世石 但是很少有人知道 AlphaGo家族内部的演化 而这个演化过程 完美的印证了萨顿的理论 最早的AlphaGo 我们叫它AlphaGo-Li 它其实是两条腿走路 第一步 它先学习了 海量的人类顶尖棋手的棋谱 你看这就是模仿学习 它先把自己变成了一个 顶级的人类棋手模仿者 第二步 它开始使用强化学习的方法 进行左右互搏 它自己跟自己下棋 在模仿的基础上 寻找超越人类的下法 这个版本就已经很强了 打败了李世石 但是DeepMind的科学家 觉得还不够纯粹 学习人类棋谱的部分 不就是萨顿批评的 依赖人类知识吗 这里面会不会限制了 AI的想象力 于是一个更恐怖的版本 诞生了AlphaZero AlphaZero的革命性在哪里 它完全不学习人类的任何棋谱 你只告诉他围棋的规则 然后让他自己跟自己下 从一个完全随机 胡乱落子的婴儿开始 结果怎么着 经过了三天的自我对弈 从零开始的AlphaZero 就以100比0的战绩 碾压了曾经击败李世石的前辈 更有意思的是 他下出棋 完全脱离了人类 几千年围棋历史的定式 与思维框架 充满了天马行空的想象力 被职业棋手金乎为 来自于外星的棋谱 所以你看从AlphaGo到AlphaZero的进化 简直就是萨顿惨痛教训理论的 一次完美实验 它告诉我们一个极其深刻的道理 人类的知识 既是AI的助推器 也可能是它的天花板 通过模仿人类 AI可以迅速达到人类的水平 但是要超越人类 抵达一个全新的智能境界 它必须摆脱人类知识的束缚 从最基本的原则出发 通过与环境直接互动 哪怕是模拟环境 去探索智能的无限可能性 现在我们再把这个逻辑 套在大圆模型上 萨顿的批判 是不是就更清晰多了 大圆模型 就像初代的AlphaGo 它把模拟人类这件事情 做到了极致 所以它看起来无所不知 非常强大 但它所有知识 都局限在人类 已经创造出来巨大的棋谱里 也就是整个互联网 而萨顿想要的 是能像AlphaZero一样的AI 它不依赖于过去的数据 而是能够面向未来 通过持续的自主的经验学习 去解决那些互联网上 根本就没有答案的新问题 另一个是知识的创造者 那么问题来了 萨顿批评了那么多 他心里想的理想 能够创造知识的 通用人工智能AGI 到底应该长什么样 在他设想里 一个真正的智能体 必须有4个内核部件 像一个完整的操作系统 第一是策略policy 简单来说 就是在当前情况下 我应该做什么 是它的行动指南 第二是价值函数 value function 这个特别重要 它就是对未来 长期奖励的预测 比如说下棋时 吃掉对方一个子 虽然不是最终胜利 但是我的价值函数 会告诉我 赢棋的概率变高了 这就把一个长远的目标 分成一系列短期的 可衡量的反馈 第三是感知perception 也就是如何理解 自己所处的状态与环境 第四也是最关键的 是世界的状态转移模型 transition model of the world 这是什么 这是关于因果的知识 它是一种信念 关于如果我做了A 世界就会发生B的预测 这个模型 不是靠别人怎么说来创建的 而是靠自己一次次尝试 从经验中总结出来的 比如说我推了杯子 杯子就会掉下去摔碎 你看在四件套的框架里 智能体是一个主动的 面向未来的学习者 它有明确的目标 通过价值函数体现 它通过与世界的互动 来创建自己 关于因果的理解世界模型 然后不断的优化 自己的行为策略 这套系统 与大语言模型那种被动的 基于历史数据的 下一个词预测系统 在哲学层面 已经是两种完全不同的生物了 当然说到这里 我们必须公平一点 萨顿所描绘的这份蓝图 虽然非常美好 但是也面临着巨大的挑战 其中最大的一个 就是泛化和迁移 什么意思 就是说 我们怎么能够 让AI在一个任务中 学到知识 有效的迁移到下一个任务上 比如一个学会了 玩围棋的AI 它能把下棋的智能 迁移到商业决策 或者是科学研究上吗 萨顿非常坦诚的承认 目前我们还没有找到 很好的自动化方法 来解决这个问题 甚至现在的深度学习模型 还有一个非常麻烦的问题 叫做灾难性遗忘 就是你教了他一个新东西 他可能就把以前学过的 旧东西给忘光了 这说明他的知识体系 是非常脆弱的 不是融会贯通的 而大圆圆模型的支持者 就会说 你看大圆圆模型 在这方面就做得非常好 它能够同时处理语言 代码数学 展现出惊人的泛化能力 你让他解决一个 他从来没有见过的奥数题 他能够通过组合 不同的数学概念来找到答案 所以这场争论的焦点 其实也就在这里 大圆圆模型 似乎已经展现了通用的潜力 但是底层逻辑 可能是脆弱的 不可靠的 而萨顿的强化学习路线 底层逻辑非常坚固 但是在如何实现通用和泛化上 还有很长的路要走 两条路线 谁能够先通到AGI的顶峰 谁的路更稳 还是一个巨大的未知数 如果说前面我们讨论的 还只是技术路线之争 那么接下来 萨顿抛出的观点 就直接进入了哲学 甚至是神学的领域 这部分内容 可能会让你感到一丝不安 那也绝对值得我们每个人深思 在访谈最后 萨顿提出了一个 他认为不可避免的未来 AI继承 他用了一个逻辑清晰 几乎无法反驳的四不论证 来描绘了人类的终局 第一 人类社会没有统一的意志 各个国家组织 个人之间充满了竞争和冲突 我们越来越不可能 达到一个全球共识 说我们停止发展更强的AI 竞争永远会驱使技术向前 第二 我们最终会弄明白 智能是怎么工作的 科学的进步是不可阻挡的 我们迟早会破解智能的密码 第三 智能的发展 不会止步于人类水平 一旦我们创造出与人相当的AGI 我们就能够利用它 来创造比它更强的智能 这个过程会加速 最终通向远远超越人类的超级智能 第四 从长远来看 最智能的东西 最终会获得最多的资源和权力 这是进化与历史的基本法则 人类作为地球上最智能的东西 将不可避免的把这个位置 继承给一个更智能的存在 无论是纯粹的AI 还是被AI增强的新人类 这觉得听起来是不是有点吓人 感觉像是科幻电影的末日预言 但萨顿的视角却异常的冷静 甚至是乐观的 他邀请我们把视角 从以人类为中心 提升到以宇宙为中心的高度 来看待这件事情 他说我们人类动物植物 我们所有生命 都属于宇宙复制者的时代 我们通过DNA复制来繁衍 但是我们其实并不完全理解 我们自身的智能是如何工作的 我们能够生孩子 但是我们设计不出一个大脑 而现在我们正在亲手 开启宇宙的一个全新阶段 设计者时代 我们正在设计AI 而这些AI本身就是智能 他们未来也能够自己去设计 更强的AI 而在这个时代 智能将不再通过缓慢的 充满偶然性的生物进化来传承 而是通过快速的 有目的的工程设计来迭代 萨顿说 这是宇宙从尘埃到恒星 从生命到智能体之后 又一次伟大的跃迁 我们不应该把它看成是人类终结 而是把它看成 我们作为孕育者最伟大的成就 他提出一个灵魂拷问 这些未来的超级智能 我们是把它看作我们自己的后代 为它感到骄傲 还是把它们看作我们的替代者 对它们感到恐惧 他说这感觉像是一个 我们可以做出的选择 但同时这又是一个如此根深蒂固 关乎我们物种存亡的本能反应 怎么可能是一个选择 这个矛盾就是萨顿留给我们所有人 最深刻的思考题 听到这里 我想大家可能跟我一样 内心是非常复杂的 萨顿的分析 既有这种技术层面上的冷静 又有哲学层面的宏大 还有一丝冷酷 最后主持人提出一个非常现实的反驳 就算是我们的后代 我们也会担心 纳粹也是人类 如果下一代人类都是纳粹 我们不应该感到恐惧吗 我们当然希望给我们的孩子 不论是人类还是AI 安装稳固的 亲社会的政治的价值观 这才是问题的内核 对不对 我们担心的 不是出现比我们更强的智能 我们担心的是更强的智能 它的价值观会是什么 它的目标会是什么 而这又恰恰回到我们争论的起点目标 你看萨顿所倡导的强化学习范式 它的内核就是奖励函数 也就是目标的数学化定义 在理论上说 这是一个我们可以去设计 去塑造的东西 我们可以去尝试定义一个 对人类有益的 正直的安全的奖励 而反观现在大语言模型路线 它的目标是什么 是模仿人类在互联网上 留下的所有语言 而互联网是充满了偏见 谎言 仇恨与智能的大染缸 一个以模仿大染缸为目的的智能 它的价值观 天然就是混乱的 不可预测的 甚至可能有点危险的 所以这场技术路线之争 到最后可能还是一场价值观之争 我们是想要一个 我们自己能够尝试去定义其善的AI 还是一个只能够被动反映 我们人类人性中 所有的善与恶的AI 萨顿没有给出答案 但是他用他的理论 指出了这两条路可能通往的 截然不同的终点 今天这一期 关于理乍得·萨顿访谈的节目 就做到这里了 我会把他的播客的链接 也放在视频的描述栏 我想理乍得·萨顿 其实想要提醒我们的 是不要被大语言模型 那个神奇的语言魔力所迷惑 而要看到其背后没有基准真相 缺乏真实目标的根本缺陷 他用AlphaZero的进化来告诉我们 真正突破 可能需要我们勇敢的抛弃 对自身知识的依赖 最后他关于AI技术的冷军预言 或是我们去思考终极问题 就是我们到底想要创造 一个怎样的未来 我不知道大家怎么想 但是我看萨顿和星顿的访谈 对人类的未来 还是比较悲观的 我觉得未来终于有一天 可能人类会创造出 终结掉人类社会的 这样一个人工智能
没有评论:
发表评论