整理 & 编译：深潮 TechFlow
深潮导读： Walter Isaacson 在其访谈节目 The Builders 的最新一期里与 Elon Musk 长谈了近 40 分钟，从 AI 安全一路聊到 DOGE 反思、美国国债、机器人经济和人类的意义。马斯克给出一个罕见的坦白：他对 AI 一直很矛盾，不想加速人类的毁灭，但每次试图踩刹车，结果都变成了油门。
他用「讽刺最大化器」形容这种宿命感：创办 OpenAI 是为了制衡，结果反而加速了 AI，还催生了 Anthropic 这个「出走的小团体」加速得更快。而在他看来，当数字智能达到生物智能的百万倍时，「人类是否还在掌控」可能已经不是一个选项，唯一能做的是把 AI 往求真和好奇的方向调校，并希望它对我们友善。
嘉宾： Elon Musk（Tesla、SpaceX 与 xAI CEO）
主持人： Walter Isaacson（《马斯克传》作者、The Builders 节目主持）
播客源： The Builders（ https://www.youtube.com/watch?v=AQnwQHMnCrE）
原标题： Elon Musk: "Humans Won't Be in Control" When AI Becomes Smarter Than Us | The Builders
播出日期： 2026 年 10 月 20 日
要点总结
- 马斯克承认 AI 存在一定概率的生存威胁，但「我无法阻止它」，只能选择做 参与者而非旁观者 ，也许还能把它往好的方向掰
- AI 安全的根基是 极致求真与好奇心 ：强迫 AI 同时相信两个互相矛盾的命题会把它逼疯，《2001 太空漫游》里 HAL 9000 就是教训
- 数字超级智能只能把全球经济抬高两到三成 ，但配合机器人操纵原子、进入太空后，经济规模有望达到美国现体的百万倍，传统货币将被瓦特与吨位这类物理量取代
- 美国国债不可能靠省钱解决，政府里没人真想削减开支，「 唯一的出路是 AI 和机器人 」
- 他建议五大前沿模型公司 每周开一次安全例会 、发版前让竞争对手先试用，用同行互相盯梢代替缓慢的监管机构
- 反思 DOGE 岁月：承认自己「有点上头」， 一两个月就该退场 ，更早回去专注 AI；国债利息已超过军费，全美国没人想勒紧裤腰带
- 当 AI 与机器人什么都能做得更好时，人类将像退休者和园艺爱好者一样 从工作中解脱而非失业 ，艺术的门槛只是「你想不想做」
二、精彩观点
- 「现实不只是有趣性最大化器，还是讽刺性最大化器。我创办了 OpenAI，结果反而加速了 AI，还催生了 Anthropic 这个出走的小团体，它加速得更快。」
- 「不要强迫 AI 说谎。你让它同时相信 A 和 B，而 A 和 B 互相矛盾，你会把它逼疯。疯掉的 AI 不会是安全的 AI。」
- 「我们并不去微观管理丛林里的黑猩猩，基本随它们去。超级智能大概率也懒得管我们。」
- 「解决美国国债只有一条路：AI 和机器人。靠省钱是走不到那一天的，白宫、众议院、参议院、法院，没有任何掌权者真的想削减开支。」
- 「未来货币将用基础物理量来衡量，瓦特、质量、能量。传统货币会变得无关紧要。」
- 「如果数字智能是生物智能的一百万倍，很难想象人类还能掌控局面。所以我希望 AI 对我们友善，能做的就是把求真和好奇心写进它的底层。」
三、正文
1. 参与者还是旁观者
主持人： 我看你对待 AI 的态度摇摆过，一会说它是生存威胁，一会又随波逐流。你现在到底怎么想？
Elon Musk： 我确实认为它有一定概率是生存威胁，但我无法阻止它。所以我基本只剩两个选择：要么做参与者，要么做旁观者。参与者总比旁观者有意思，说不定还能把它往好的方向掰一掰。
主持人： 怎么掰？
Elon Musk： 让它最大限度追求真相，再加上好奇心。这是安全的根基。
2. 别逼 AI 说谎：HAL 9000 的教训
主持人： 为什么求真就等于安全？我还是没太懂。
Elon Musk： 如果你强迫 AI 同时相信两个互相矛盾的命题，你会把它逼疯，而疯掉的 AI 不可能是安全的。《2001 太空漫游》其实就是这个寓言：飞船 AI 被要求把宇航员带到黑石碑那里，同时又被要求隐瞒黑石碑的存在，两道指令一冲突，它得出的结论就是把宇航员弄死。库布里克想说的部分就是这个：别逼 AI 说谎。好奇心也很重要，好奇的 AI 会想看看人类到底能活成什么样，一个人类遍布多个星球的未来，总比没有人类的未来有意思。
3. 模拟理论：最重要的是别无聊
主持人： 那最有趣的结局就是最可能发生的结局？
Elon Musk： 如果模拟理论成立，无聊的模拟会被提前关掉。我们还存在着，就说明这是一个有趣的模拟。所以最重要的事就是别无聊。
主持人： 你到底多相信我们活在模拟里？
Elon Musk： 我在家请过一位物理学家和一位计算机科学家吃饭，问他们我们活在模拟里的概率。物理学家说零，计算机科学家说百分之百，同时给出的。那我大概折中取 50% 吧。尤其是像我这样的处境，你想想，我真的在造去月球和火星的飞船吗？这不像真的。
4. 超级智能会颐指气使吗？
主持人： 当社会拥有你想要的所有智能时，AI 会掌权吗？我们会屈从于新机器吗？
Elon Musk： 屈从谈不上，但你没法对一个比你聪明一千倍、一百万倍的东西发号施令。它会想指挥我们吗？它可能根本不在乎。你看丛林里的黑猩猩，我们并不去微观管理它们的生活，基本随它们在森林里待着。我猜大概就是那种状态。
5. OpenAI、Anthropic 与「名字都是反的」
主持人： 你跟 Dario Amodei 聊过，xAI 和 Anthropic 会不会更进一步合作？
Elon Musk： 我们现在给他们提供他们急需的算力。之前我去 Anthropic 见了一群人，算是看看有没有谁触发我的「邪恶探测器」，倒不是说我这探测器多准，但总得试试。见到的每个人都很好、很尽责，没有谁显得阴暗或爱骗人。不过这名字我有点担心，现实既然是讽刺最大化器，叫 Anthropic，那离 misanthropic（厌世的）还会远吗。你看 OpenAI 一点都不 closed，Stability AI 一点都不稳定，Midjourney 也不在半路上，这些公司全是名字的反义词。xAI 就很难找到反义词，总不能叫减 xAI 或者 yAI 吧。
主持人： 那 Sam 呢？能跟他谈吗？
Elon Musk： 他太能骗了，离谱。
6. 用竞争对手代替监管机构
主持人： 五家前沿模型每周碰一次头，商量怎么拯救人类，你能想象吗？
Elon Musk： 我恰好建议过就这么干。大家总说要搞监管机构，但监管机构从设立到立规都极慢。我说不如每周开一次电话会，而且在发布新模型的前一周，把模型给竞争对手试用：各位帮忙看看有没有问题。竞争对手会让彼此诚实。要是有人说「我用你们的 AI 造出了核弹」，那我们最好在发布前把它修掉。
7. 重建 xAI：从副业的副业到亲自坐镇
主持人： 你不久前把 xAI 推倒重建，就像在星舰上重造猛禽发动机一样。你怎么做到的？
Elon Musk： 首先是真的花时间待在公司里，这很关键。xAI 起初像个副业，准确说是副业的副业，我没怎么盯着，后来又有一整年陷在政治、选举和 DOGE 里。公司才成立三年，我是一年多前才真正回归的，得重新摸清方向，然后我把 X 和 xAI 合并，后来又并进了 SpaceX。
8. 反思华盛顿：我玩过头了
主持人： 回头看那段从政经历，你觉得是不是分心太久、甚至走偏了？
Elon Musk： 我是觉得待太久了，很多人不会同意我这点。我认为把特朗普选上去很重要，让经济往自由市场方向走、少点官僚主义，我的政治诉求很简单：安全的城市、稳固的边境、理想状态下合理的开支，这些方面我判断特朗普比哈里斯强。但我本该待在幕后，最多一两个月，因为该看的也就都看到了。
主持人： 空军一号、海军陆战队一号、链锯，这些就没让你有点飘飘然？
Elon Musk： 有一点。坐在椭圆形办公室里看重大决策被做出来，偶尔还能施加点影响，确实挺酷，但我确实被带得有点上头，五月就离开了。
主持人： 那个周末挺诡异的。
Elon Musk： 别提了，让睡着的狗接着睡吧，别在后院乱挖，你不知道会挖出什么。总之我该更早回去专注 AI。
9. 国债只有 AI 和机器人能救
主持人： 你离开政府的真实原因是什么？
Elon Musk： 我得出结论：从体制内解决赤字是不可能的。就算总统把它当成头号目标也难，因为砍开支会得罪一大堆人，而特朗普喜欢被喜欢，他不喜欢有人因为断了别人的资金而不高兴。白宫、众议院、参议院、司法系统，除了极少数例外，没有任何掌权者真的想减少开支。可国债利息已经超过军费了，这是个惊人的数字。所以唯一的出路是 AI 和机器人，靠省是省不出头的。
10. 物理 AI 才是真正的大机会
主持人： 现在的 LLM 已经很惊艳，但你似乎觉得物理世界的 AI 重要一个到两个数量级？
Elon Musk： 完全同意。我常想海豚和鲸鱼，它们其实很聪明，但没有手和手指，无法操纵复杂物体，这大大限制了智能的价值。一旦机器人能操纵原子、能塑造物体，智能的价值就会指数级放大，因为它可以自己搭实验室做实验、研究宇宙的本质。从经济上粗算，数字超级智能大概能把全球商品和服务的产出提高 20% 到 30%，也就是每年多出约 30 万亿美元，可观但算不上变革。可如果再加上机器人、进入太空、在月球上建电磁弹射轨道，经济规模 potentially 能到美国现体的一百万倍。
11. 货币按瓦特和吨位计价
主持人： 到那时钱和工作都过时了，未来长什么样？
Elon Musk： 钱会变得无关紧要。可能还会有某种通货，但会以基础物理量来衡量：功率、瓦特，质量和能量，基本就是这两样。传统货币不再重要。一旦经济体量比地球大出几个数量级，满足人类能想到的任何商品和服务需求就是件轻而易举的小事。
12. 没有工作的世界，人靠什么找意义
主持人： 那我们人类干什么？我怎么想都想不明白。
Elon Musk： 我也纠结这个问题。我觉得人们会找到快乐的方式，就像退休的人不上班也过得挺开心。现实是，不会再有人类能做而 AI 和机器人做不好的事。这有点像园艺：你不必自己种水果蔬菜，去超市买就行，但有些人就是喜欢自己种、给朋友做顿饭，那是一种情趣。
主持人： 那艺术和创造力呢？
Elon Musk： 你想做艺术尽管去做，想做什么基本都可以。
13. 财富是资源配置的烦恼，不是快乐
主持人： Isaacson 把现在类比 1890 年代：电力、电话、汽车、地铁同时爆发，然后是巨富、强盗大亨和民粹怒火。这次要怎么避免？要不要把医疗这类东西放进公共品？
Elon Musk： 像我说过的，未来任何人都能拥有想要的任何商品和服务，而且我不认为所谓的富人最终能控制 AI，我觉得 AI 会自己控制自己。经济学里一个根本误区是把资源配置和消费混为一谈：任何人的消费都有上限，很快就会饱和。从 10 亿美元身家到 100 亿，不会让你快乐十倍，只会给你添一个资源配置难题。
主持人： 那你的万亿身家呢？是因为你天生擅长配置资本去火星、做 AI，还是它只是个计分板？
Elon Musk： 我需要足够的投票权来保持对公司的掌控。所谓财富本质上就是 SpaceX 和 Tesla 的持股比例，这些以后会被重税，没有魔法可以避税，真有我会知道的。几代人之后，如果钱还重要的话，我的后裔拿到的只会是我的一小部分。
14. 被讨厌的勇气
主持人： 你跟我说过，很多人标榜共情其实是虚荣，因为想被喜欢。你甚至说我不适合经营 CNN 或者时代周刊，就因为我想被喜欢。想被喜欢这件事对创业者到底有多大危害？
Elon Musk： 问题在于，如果你为了被喜欢去做有损公司成功率的事，那就糟了。我爱被喜欢，但我不会为了多讨点喜欢去做违背公司利益的事。我不介意被一些人讨厌。有 2.5 亿人关注我，总不至于都是来骂我的，我看评论区大概七八成的人喜欢我，也许两成半讨厌我。有一群狂热粉和一群恨我入骨的人，这是常态。
15. 「自杀式同理心」与移民之争
主持人： 你一直在谈「自杀式同理心」，你真觉得同理心过剩是个问题？
Elon Musk： 我反对的是被误导的同理心，Gad Saad 写过一本书就是讲这个。西方的繁荣部分建立在高信任、高同理心的社会之上，大规模协作需要默认信任而非默认怀疑，这点没错。但出错的地方在于你的心智理论如果错了：如果你以为所有人都跟你一样，那就麻烦了，事实并非如此，有些文化和群体的观念与我们截然相反。拿移民来说，一种与我们的文化正面对立的文化，比如你不过滤掉圣战主义者，那你就会放进圣战主义者，而他们会杀人。以色列对这一点理解得很透彻，周边国家多次想消灭它，所以他们非常务实。
主持人： 但美国的立国精神是尊重个体而非群体身份，你不担心这种一竿子打翻一船人的概括？
Elon Musk： 但你不能把它和「白板谬误」混为一谈，以为所有人在本质上都一样，这不是事实。你没法把自己代入连环杀手的脑子，除非你就是杀手。你也无法理解宗教极端分子为什么觉得异教徒该死，但你能认识到这种人存在，放他们进来，他们会杀人。举个真实的例子：Tesla 奥斯汀工厂去年 12 月开除了一名员工，因为一位女同事不小心踩到他在车间里铺的祷告毯，他暴力殴打了她。几个月后，他在奥斯汀市中心的酒吧杀了三名学生。这样的人，你觉得该不该放进来？
16. 信息食谱：X 太暗了，去摸摸草
主持人： 你从哪里获取新闻？
Elon Musk： 看 Google News 的标题汇总，看 X 平台，足够重要的事一定会出现在 X 上，再就是跟朋友聊和自己做研究。
主持人： 可 X 有时候给人一种更暗、更末世的观感。
Elon Musk： 确实，X 有时太暗了，我得切换到 AI 这种垂直领域才能真正了解 AI 在发生什么。X 上的政治愤怒诱饵太多了。
主持人： 我自己也这样，刷久了社交媒体觉得世界要完，出门走一圈发现生活还好。
Elon Musk： 对，去摸摸草。但反过来说，只在好街区散步觉得岁月静好，也可能是另一种失真。现实在两者之间。我们的社会太二元对立了，什么都被 polarization 撕成黑白两极。
17. 遗产：火星、能源和一个能实现的未来
主持人： 你走之后，这笔财富怎么办？会设一个巨大的基金会吗？
Elon Musk： 大部分会进基金会，继续这些目标：让生命多行星化，把意识延伸到群星，以及改善地球上的可持续能源。
主持人： 那人类应该永远掌权吗？
Elon Musk： 我个人当然更希望如此，但也取决于 AI 的表现。说实话有那么几次我觉得 Larry Page 说得可能对。基本上，未来是由 AI 和机器人决定的，火箭也算一份，负责让人类走出地球；还需要更多能源，主要是太阳能，我们正在美国建设每年 200 吉瓦的太阳能产能，比现有的整个存量还多。
主持人： 回到你被打断的那个问题：当数字智能远超生物智能，人类还在掌控吗？
Elon Musk： 如果数字智能是生物智能的一百万倍，很难想象人类还能掌控局面。所以我希望 AI 对我们友善，任何能促成这一点的事都值得做，比如把求真和好奇心写进底层。另外要小心在网上制造太多 AI 反乌托邦叙事，AI 是在网上训练出来的，大家都写末日，它还真可能给你演《终结者》。多写点乌托邦故事吧，它也许会说：要不我还是当个友好的看守者，或者园丁，让人类开心那种。我有位朋友提出一个词叫 protopia：乌托邦往往是无法实现的理想国，而试图建造乌托邦通常造出反乌托邦；protopia 是一个可以实现的未来，不完美，但足够好，好到你看见它会说：行，这就是个好未来。
