当地时间3月11日在一场名为“Abundance Summit”科技峰会的公开对话中特斯拉与xAI创始人埃隆·马斯克谈及AI进展、Optimus 3的量产节奏以及“奇点”后经济形态。在这场访谈中他给出了多个明确判断AI已经进入自我改进阶段人形机器人即将进入规模化生产。而AI“奇点之后”的经济难预测但他押注通缩与“钱不再重要”。当被问及与SpaceX相关的数据中心建设时间表时马斯克以“SpaceX处于静默期”为由未展开。“擎天柱3”即将投产明年或进入大规模生产在人形机器人方面马斯克透露特斯拉“擎天柱3”Optimus 3已经接近完成开发。他说“我们正在完成擎天柱3的最后阶段它很可能是目前世界上最先进的机器人其他产品还没有接近它的水平。”按照他的说法特斯拉计划今年夏天启动生产初期产量较低明年有望进入高产量阶段马斯克强调机器人生产同样遵循制造业常见的S曲线爬坡初期缓慢、随后快速扩张。他说“制造业产量通常是一条S曲线开始很慢然后迅速爬坡。”与此同时特斯拉还在设计新的机器人生产工厂。他透露该工厂的设计与传统工厂明显不同未来目标是不断更新机器人版本“可能每年都会推出新的机器人设计”。AI已进入“递归式自我改进”在AI面前人类终将边缘化在AI发展节奏上马斯克给出的判断同样激进。当被问及AI是否已经进入“递归式自我改进”recursive self-improvement阶段时他表示“其实这种情况已经发生一段时间了。”他解释称目前的大模型开发已经形成一种循环新模型由上一代模型参与训练人类仍然在监督但参与程度正在减少他说“人类在回路中的角色正在越来越少。每一代模型都在帮助构建下一代模型。”他预计这种过程可能很快实现更高程度的自动化“完全自动化的自我改进可能今年年底出现最晚不会超过明年。”在他看来AI突破已经进入加速阶段“现在的情况是我晚上睡觉前看到一个AI突破早上醒来又有新的突破。”马斯克还在对话中探讨利用太阳能将地球经济规模扩大百万倍的愿景同时指出哪怕只利用太阳能量的五十亿分之一其产生的智能也远超地球总和。在那种级别AI面前人类终将被边缘化详见下方视频AI奇点之后“钱不再重要”谈到制度能否跟上AI与机器人的冲击马斯克用“奇点”作比喻“奇点之所以叫奇点就是因为很难预测会发生什么。”他提到Grok的标志是“黑洞周围的光环”并称“奇点里面发生什么很难知道但会非常有意思。”他把通胀/通缩逻辑直接归因于供给爆发“我们会有全民收入universal income基本上就是给人发钱。”原因是“商品和服务的产出会远远超过货币供给”从而形成通缩“通缩就是产出与货币供给的比率……如果商品和服务增长速度超过货币供给你就会通缩。”更远处他认为货币的重要性会下降“钱在未来某个时点会变得不再重要。”他甚至给出一个“非人类经济”的计价方式“我觉得未来的AI不会用人类货币它只会关心能源和质量——功率和吨位wattage and tonnage。”只要不发生三战未来10年全球GDP增长10倍在宏观判断上他给出一个前提明确的乐观区间他认为未来“有一系列可能结果并不都很好”但“很可能会很好”概率“可能有80%甚至更高”。如果没有极端外生冲击他说自己对经济增长的判断“相当舒服”“在没有第三次世界大战的情况下……我觉得10年内经济规模增长10倍是一个相当稳妥的预测。”用工与“机器人造机器人”不裁员反而扩招单人产出会“夸张地高”关于“机器人何时能大规模参与制造、替代人类”的追问马斯克强调现实仍是“人很多”特斯拉总员工数“约15万人”其中“大约三分之二以某种形式在工厂”其供应链相关人力“可能是100万到200万人”。但他的判断是效率将大幅跃升“我们不打算裁员或减少人员。相反我们会增加员工数量。”真正的变化在单位产出“特斯拉每个人的产出会变得夸张地高nutty high。”这与他对技术进步路径的描述呼应无论AI还是制造“往往是一条S曲线或者一系列重叠的S曲线起初慢、指数增长、到平台、然后另一次突破再开启下一条曲线。”访谈全文翻译主持人Peter H. Diamandis 观众们如你们所见我仍在努力将“希望”变现。马斯克 你看起来状态非常棒。Diamandis 我感觉很好。马斯克 是用了什么抗衰老血清之类的方法吗Diamandis 这是我们的“长寿特快列车”我们正在向这个目标迈进。你也在这条路上。我想在咱们上次的交谈中你已经开始接受延长寿命的观点了。马斯克 在某种程度上是的。我不知道我们是否希望每个人都永远活下去但我认为延长“健康寿命”而不是经历一段漫长的衰老期、弄得自己一直流口水这听起来是个好主意。我们想避免那种情况。Diamandis 首先祝贺SpaceX和xAI的合作。这真是个绝妙的举动将为人类首个“戴森云”提供动力。我很好奇你们启动这些数据中心的时间表是怎样的你认为第一年能获得多少带宽请让我们了解一下你们实现这一目标的速度。马斯克SpaceX目前正处于静默期我不能透露那些可能会引起麻烦的信息。Diamandis 好的那我们就不谈这个了。我能理解但我对这个速度充满期待。本周一我们在这里与埃里克·施密特以及另一家超大规模计算云服务公司的一位负责人进行了交谈。我就不提是谁了但我很好奇你认为我们目前在AI的“递归自我改进”方面处于什么阶段我们达到了吗你认为Grok目前在进行递归自我改进吗是如何进行的通用人工智能AGI和超级人工智能ASI的时间表是怎样的请给我们大致讲讲。马斯克 我认为我们处于递归自我改进阶段已经有一段时间了。如果你是指没有人类参与的完全自动化递归自我改进你是这个意思吗Diamandis 是的我指的是在AI软件方面。马斯克在递归自我改进的过程中人类的参与度确实在逐渐降低。每一个新一代的模型都是由前一代模型构建的。这在很大程度上已经发生了但尚未实现完全自动化。也许今年年底能实现最迟不会超过明年。Diamandis 你认为到那时会出现智能“硬起飞”突变式发展吗马斯克 我们现在正处于硬起飞之中。Diamandis 好的。马斯克 就是现在。Diamandis 是的。马斯克 在这个阶段我晚上去睡觉时AI取得了一项重大突破等我醒来时又出现了另一项突破。Diamandis 确实。马斯克 坦白说很难跟上节奏。这确实让人感到有些头晕目眩。Diamandis 我想很多让人头晕目眩的突破也是你带来的。马斯克目前Grok发展得很不错。在某些指标上它是最优秀的。例如它在预测事物方面是最好的这可以说衡量智能的最佳指标。Grok的新版本非常出色。我们目前在编程能力上还处于落后状态。我刚才之所以迟到是因为我刚参加了一个关于编程的全体员工大会梳理了所有需要完成的工作以便在编程方面追赶并超越我们的竞争对手我相信我们能做到。我觉得我们大概在今年年中就能实现这个目标。此外我认为人们并不完全了解未来会有多么庞大的智能或者它超越人类智能的程度以至于到了无法完全理解的地步。你可以想象这样一种情况假设我们利用的能源比目前地球上所有的用电量多出一百万倍那仍然大约只是太阳能源输出的百万分之一。本质上如果你把美国经济扩大一百万倍它所消耗的能量仍然只是太阳能的一小部分。如果我们真正按太阳能的规模来计算就算你将当前的经济和用电量扩大约一百万倍你也大约只利用了太阳能的百万分之一。但是一个使用着比目前整个文明多一百万倍电力的经济体或智能体会是什么样子会想些什么会做些什么那将是一幅非常宏伟的景象。我们面临的挑战是哪怕只是隐约去理解那种庞大级别的智能都很难。但可以肯定地说它能解决你能想到的所有问题。Diamandis 是的这就像一场长途旅行。你可能会觉得这听起来有些可笑但我确实很欣赏这种不懈的乐观精神。马斯克 我看到你在将“希望”变现。你把“将希望变现”这句话铭记在心了这挺有趣的。Diamandis 那是Grok的功劳。那是当你猛烈吐槽我时Grok给我的营销建议。马斯克 对吧所以你在将希望变现。不过你之前也在将痛苦变现。Diamandis 那是肯定的。马斯克 当人工智能和机器人将经济产出提高几个数量级时那是我们根本无法想象的程度。Diamandis 我们很可能在极短的时间内成为这个星球上智能的少数然后是极少数最后变成微乎其微的少数。马斯克 是的。不仅是在地球上而是在整个太阳系中都是如此。因为如果你只在地球上发展智能最好的结果也就是智能所能利用的能源大约只占太阳能的十亿分之一。如果你只局限于地球这就是你最好的结果。Diamandis 也就是我们能拦截到的那部分能量对吧马斯克 是的。地球大约只接收到了太阳一小部分的能量这是宇宙中存在且我们能获取的绝大部分能量。所以实际上整个太阳系的智能将比地球上的智能高出许多个数量级。Diamandis 伊隆我能问个问题吗你能看到多远的未来你现在能对未来多少年做出合理的预测马斯克很难准确预测未来的路径。很多事情往往呈现为一条S型曲线或一系列S型曲线。一开始发展缓慢然后呈指数级增长接着进入线性区域最后变成对数增长增长放缓。这大致就是我在人工智能突破中看到的情况。比如出现某项突破后它会经历一条S型曲线看起来似乎要无限增长下去但随后收益就会呈现对数级递减直到出现下一项突破。因此人工智能的进步基本上就是一系列相互重叠、相互连接的S型曲线。Diamandis 曾经有一段时间你或许能预测未来十年或二十年的情况。你现在的想法是什么马斯克 我接下来的话听起来可能会很疯狂。Diamandis 没关系。因为你们一直是我们这些大胆预测的绝佳听众。马斯克 是的我想说在10年内经济规模将达到现在的10倍甚至更大。Diamandis 是的。你确实说过从现在起5年多以后GDP将出现三位数增长经济规模将达到现在的10倍。但就你的预测能力而言……马斯克 我觉得大约10年增长10倍实际上是一个相当保守的预测。除非发生第三次世界大战之类的事情打乱了这些计划预期。但在没有第三次世界大战的情况下如果目前的趋势继续下去我会说经济在10年内将增长10倍。Diamandis 我喜欢这个说法。你能给我们举个例子吗马斯克人类会在月球上建立基地。Diamandis 是的。并且我们将有人类……马斯克 登陆火星。Diamandis 我们还将在月球上建造质量投射器。马斯克 我想是的。我认为10年内我们就能在月球上拥有质量投射器。Diamandis 太棒了。杰拉德·K·奥尼尔的太空愿景正在实现。今年的“富足峰会”上我们有4个机器人同台亮相。我很期待“擎天柱Optimus”。我很好奇擎天柱3代的时间表特别是我什么时候能买一两台你预计擎天柱什么时候会投入商业销售还是说你会采用租赁的模式马斯克我们目前正处于擎天柱3代完成的最后阶段。它将是目前世界上最先进的机器人其他任何机器人都难以望其项背。事实上我还没见过任何像擎天柱3代一样出色的机器人演示。坦白说也许有这样的机器人存在或者它们处于保密状态但我还没看到。当然我必须确保我说的这些内容是可以适度公开的。Diamandis 我们正在X平台上直播这场对话。马斯克 好的那这已经非常公开了。Diamandis 是的。马斯克我想我们会在今年夏天开始生产擎天柱3代但一开始的产能会非常慢。制造数量随时间推移会呈现经典的S型曲线攀升大概到明年某个时候能达到大规模量产。接下来在擎天柱4代之后我们会加快设计迭代。明年我可能会尝试每年发布一款新的机器人设计并且每年都对机器人的设计进行改进。Diamandis 当我和戴夫·邦迪参观超级工厂时那是一次非凡的体验。特斯拉的厂房有一千一百五十万平方英尺。然后你曾说过你还将在那里为擎天柱建造九百五十万平方英尺的厂区这太令人惊叹了。马斯克 面积数字大概是这样。Diamandis 必须得是这样。马斯克 那会相当不错。那将是一个全新的工厂设计它与其他工厂截然不同。Diamandis 我们离“机器人制造机器人”还有多远你们已经将超级工厂的大部分环节自动化了人类在其中只扮演很小的角色。在制造方面机器人会接替目前人类扮演的角色吗马斯克 我们仍然有许多人类员工在参与制造。那些直接受雇于特斯拉、在一线制造产品的员工或者说工厂里的人要么在制造产品要么在管理制造产品的人。人数大约有十万。所以我们有很多员工。特斯拉的总人数大约在15万左右平均有三分之二的人以某种形式在工厂里工作。我们的供应商那里可能还有一百万到两百万人。所以涉及的人数非常多。我们预期的是特斯拉的人均产出将会变得非常高。因此我们没有裁员计划事实上我们还会增加员工人数。但人类的人均产出将会变得高得离谱。Diamandis 到了难以置信的程度。在你来参加播客节目时我们讨论了“可持续的富足”这个概念。你当时强调我们将迎来一个“全民高收入UHI”的时代这已经超越了“全民基本收入UBI”的讨论范畴。我想知道你对于我们如何实现这一目标有什么想法吗你有进一步的思考吗此外我们之前谈到了可能会有一段社会动荡期大概两到五年。在此期间直到我们实现“去货币化”和通货紧缩进而达到全民高收入UHI的阶段之前可能需要发放很多类似于疫情期间的救济支票。对此你有更多思考吗人们真的需要那种希望和愿景。马斯克 要明确的是我认为我们不应该感到自满。我们确实需要谨慎因为未来的结果是多种多样的并非所有结果都很美好。但就目前而言我同意你的看法未来很可能是美好的。大概有80%的几率甚至更有可能会很美好。我确实认为我们将实现全民收入。本质上就是直接向人们发钱。因为商品和服务的产出将远远超过货币供应量实际上就会出现通货紧缩。通货紧缩就是商品和服务的产出与货币供应量的比率。因此如果商品和服务的增长率超过了货币供应量的增长率我预测这将会发生那么就会出现通货紧缩。Diamandis 是的。许多人会创办新公司并相互竞争从而压低价格这会越来越快地增加变数并加剧通货紧缩。马斯克 基本上人工智能和机器人将制造出海量的产品并提供极多的服务以至于人类实际上没有需要亲自动手去做的事情了。对于人类来说总有欲望得到满足的一刻。所以回到我之前的例子如果经济规模比美国经济大一百万倍那么人类所有的欲望早就被满足了。甚至如果我们的经济规模比现在大一千倍你可能就已经满足了人们所能想到的一切物质需求。Diamandis 那么你认为金钱的价值会大幅下降吗我们会进入后资本主义时代吗马斯克是的我认为在未来的某个时刻金钱将不再具有现实意义。Diamandis 所以就在你成为……马斯克 未来的社会形态可能有点像伊恩·班克斯Iain Banks科幻小说《文明》Culture系列中所描述的那样。我认为未来的人工智能不会使用人类的货币它只会关心能源和质量也就是功率和吨位。Diamandis 这听起来有点讽刺对吧就在你即将成为拥有数万亿美元的超级富豪时金钱却开始失去价值了。马斯克 差不多吧。这一切财富数字实际上只代表了我所创立的公司的股权比例。这些钱并不是存在银行账户里的。严格来说我只是拥有这些公司一部分的股权。这些公司正在做很多有用的事情随着公司创造出价值其估值不断增长而股权比例折算下来构成了我的财富总额使得这个数字看起来很高。Diamandis 曾经有人采访我问我你的动力是什么是什么在驱动你我回答说埃隆的动力就是解决问题。他通过一次又一次地解决那些最大的难题致力于让这个世界变得更好。如果别人能解决这些问题他就不必亲自出马了但问题是没有其他人去解决。所以我只想对你表示感谢。马斯克 不客气。Diamandis 我很好奇你认为民主制度和现代机构能跟得上这场即将到来的“超音速海啸”吗它们会被时代的洪流冲垮吗会彻底崩溃吗我们该如何应对马斯克这被称为“奇点”是有原因的。很难预测奇点内部会发生什么。Grok 的标志就是奇点。Diamandis 我很喜欢。顺便说一句你身后的标志很漂亮非常华丽。马斯克 谢谢。那个光环象征着黑洞周围的质量和光线正在坠入其中。很难知道奇点内部会发生什么但这将是非常有趣的。我对未来的生活将会非常精彩充满信心。坦白说我认为人工智能和机器人技术也是我们解决预算赤字、避免国家破产的唯一途径。你对我的观点产生了一定的影响我现在决定要变得更加乐观。我们确实应该更加乐观。Diamandis 谢谢你伙计。马斯克 以前我并不是个乐观主义者可能是过多地沉浸在消极的一面了。Diamandis 将乐观主义和现实主义结合起来总归是有好处的。马斯克 完全正确。你不能自满也不能仅仅盲目假定一切都会顺利而是要努力让事情朝着好的方向发展。我的意思是未来肯定会发生一些令人惊叹的事情。如果我们拥有高度灵巧且极其聪明的仿生机器人那意味着地球上的每个人都能获得比现今世界上最富有的人还要好的医疗服务。顺便说一句别人都说我是最富有的人但我认为那些君主统治者实际上比我富有得多。比如我不得不接受了三次颈部手术因为前两次都做砸了。并且我的背现在还是会有些疼。我就在想人工智能能不能帮忙解决背痛问题如果能那将是一个巨大的胜利。而且我认为它一定能做到。背痛真的让人很难受。由于背痛的折磨导致睡眠质量变差人就会变得脾气暴躁。Diamandis 今天早上大卫·辛克莱David Sinclair来到了我们的舞台。他正在进行表观遗传重编程的临床人体试验。最近发表的一篇论文表明这种疗法能够实现关节修复。因此背痛或许正是它能消除的病症之一。马斯克 那将是非常了不起的。当然如果仅仅是解决背痛问题人类的平均幸福感就会得到极大提升。因为对于背痛来说这不是你会不会得的问题而是迟早的问题。人体设计上确实有些缺陷。Diamandis 我一直想邀请你来达拉斯的 Fountain Life 医疗中心。我们会帮你的。等你什么时候有空了一定要来。马斯克 你们那里都有什么设备我了解你们有核磁共振MRI和CT扫描之类的但你们拿到扫描结果后会怎么做呢Diamandis 我很乐意把服务清单发给你我会私信发给你。你真的太慷慨了。接下来要和我一起登台的是另一位伟大的“登月计划”企业家本·拉姆Ben Lamm。他经营着“复活灭绝物种”的 Colossal 公司正在研究复活猛犸象以及其他15个物种。我听说你想要一只迷你猛犸象这是真的吗马斯克 是的我觉得养一只迷你猛犸象做宠物一定会非常酷。那绝对是史诗级的。那些毛茸茸、可爱的小家伙到处奔跑嘶鸣光是想想那画面就让人感到兴奋。Diamandis 好的我会向本美言几句的。太奇妙了。马斯克 有人能在现实生活中建造一个《侏罗纪公园》吗如果真建成了哪怕有死亡风险我也绝对会去看看那一定酷毙了。Diamandis 我认为如果有人能做到这点那一定就是本·拉姆和他的 Colossal 公司。他正在通过工程技术创造生命。最近有人问他能否制造一只皮卡丘他说也许可以。马斯克 是的《侏罗纪世界》什么的那肯定会非常棒。Diamandis 好的我会问他的。埃隆非常感谢你来到这里与我们分享。谢谢你我的朋友。让我们把掌声送给埃隆·马斯克背景音起没有什么能阻挡我们了原文链接马斯克访谈爆了只要不发生三战未来10年全球GDP增长10倍在AI面前人类终将被边缘化-36氪
马斯克访谈爆了，只要不发生三战，未来10年全球GDP增长10倍，在AI面前，人类终将被边缘化
当地时间3月11日在一场名为“Abundance Summit”科技峰会的公开对话中特斯拉与xAI创始人埃隆·马斯克谈及AI进展、Optimus 3的量产节奏以及“奇点”后经济形态。在这场访谈中他给出了多个明确判断AI已经进入自我改进阶段人形机器人即将进入规模化生产。而AI“奇点之后”的经济难预测但他押注通缩与“钱不再重要”。当被问及与SpaceX相关的数据中心建设时间表时马斯克以“SpaceX处于静默期”为由未展开。“擎天柱3”即将投产明年或进入大规模生产在人形机器人方面马斯克透露特斯拉“擎天柱3”Optimus 3已经接近完成开发。他说“我们正在完成擎天柱3的最后阶段它很可能是目前世界上最先进的机器人其他产品还没有接近它的水平。”按照他的说法特斯拉计划今年夏天启动生产初期产量较低明年有望进入高产量阶段马斯克强调机器人生产同样遵循制造业常见的S曲线爬坡初期缓慢、随后快速扩张。他说“制造业产量通常是一条S曲线开始很慢然后迅速爬坡。”与此同时特斯拉还在设计新的机器人生产工厂。他透露该工厂的设计与传统工厂明显不同未来目标是不断更新机器人版本“可能每年都会推出新的机器人设计”。AI已进入“递归式自我改进”在AI面前人类终将边缘化在AI发展节奏上马斯克给出的判断同样激进。当被问及AI是否已经进入“递归式自我改进”recursive self-improvement阶段时他表示“其实这种情况已经发生一段时间了。”他解释称目前的大模型开发已经形成一种循环新模型由上一代模型参与训练人类仍然在监督但参与程度正在减少他说“人类在回路中的角色正在越来越少。每一代模型都在帮助构建下一代模型。”他预计这种过程可能很快实现更高程度的自动化“完全自动化的自我改进可能今年年底出现最晚不会超过明年。”在他看来AI突破已经进入加速阶段“现在的情况是我晚上睡觉前看到一个AI突破早上醒来又有新的突破。”马斯克还在对话中探讨利用太阳能将地球经济规模扩大百万倍的愿景同时指出哪怕只利用太阳能量的五十亿分之一其产生的智能也远超地球总和。在那种级别AI面前人类终将被边缘化详见下方视频AI奇点之后“钱不再重要”谈到制度能否跟上AI与机器人的冲击马斯克用“奇点”作比喻“奇点之所以叫奇点就是因为很难预测会发生什么。”他提到Grok的标志是“黑洞周围的光环”并称“奇点里面发生什么很难知道但会非常有意思。”他把通胀/通缩逻辑直接归因于供给爆发“我们会有全民收入universal income基本上就是给人发钱。”原因是“商品和服务的产出会远远超过货币供给”从而形成通缩“通缩就是产出与货币供给的比率……如果商品和服务增长速度超过货币供给你就会通缩。”更远处他认为货币的重要性会下降“钱在未来某个时点会变得不再重要。”他甚至给出一个“非人类经济”的计价方式“我觉得未来的AI不会用人类货币它只会关心能源和质量——功率和吨位wattage and tonnage。”只要不发生三战未来10年全球GDP增长10倍在宏观判断上他给出一个前提明确的乐观区间他认为未来“有一系列可能结果并不都很好”但“很可能会很好”概率“可能有80%甚至更高”。如果没有极端外生冲击他说自己对经济增长的判断“相当舒服”“在没有第三次世界大战的情况下……我觉得10年内经济规模增长10倍是一个相当稳妥的预测。”用工与“机器人造机器人”不裁员反而扩招单人产出会“夸张地高”关于“机器人何时能大规模参与制造、替代人类”的追问马斯克强调现实仍是“人很多”特斯拉总员工数“约15万人”其中“大约三分之二以某种形式在工厂”其供应链相关人力“可能是100万到200万人”。但他的判断是效率将大幅跃升“我们不打算裁员或减少人员。相反我们会增加员工数量。”真正的变化在单位产出“特斯拉每个人的产出会变得夸张地高nutty high。”这与他对技术进步路径的描述呼应无论AI还是制造“往往是一条S曲线或者一系列重叠的S曲线起初慢、指数增长、到平台、然后另一次突破再开启下一条曲线。”访谈全文翻译主持人Peter H. Diamandis 观众们如你们所见我仍在努力将“希望”变现。马斯克 你看起来状态非常棒。Diamandis 我感觉很好。马斯克 是用了什么抗衰老血清之类的方法吗Diamandis 这是我们的“长寿特快列车”我们正在向这个目标迈进。你也在这条路上。我想在咱们上次的交谈中你已经开始接受延长寿命的观点了。马斯克 在某种程度上是的。我不知道我们是否希望每个人都永远活下去但我认为延长“健康寿命”而不是经历一段漫长的衰老期、弄得自己一直流口水这听起来是个好主意。我们想避免那种情况。Diamandis 首先祝贺SpaceX和xAI的合作。这真是个绝妙的举动将为人类首个“戴森云”提供动力。我很好奇你们启动这些数据中心的时间表是怎样的你认为第一年能获得多少带宽请让我们了解一下你们实现这一目标的速度。马斯克SpaceX目前正处于静默期我不能透露那些可能会引起麻烦的信息。Diamandis 好的那我们就不谈这个了。我能理解但我对这个速度充满期待。本周一我们在这里与埃里克·施密特以及另一家超大规模计算云服务公司的一位负责人进行了交谈。我就不提是谁了但我很好奇你认为我们目前在AI的“递归自我改进”方面处于什么阶段我们达到了吗你认为Grok目前在进行递归自我改进吗是如何进行的通用人工智能AGI和超级人工智能ASI的时间表是怎样的请给我们大致讲讲。马斯克 我认为我们处于递归自我改进阶段已经有一段时间了。如果你是指没有人类参与的完全自动化递归自我改进你是这个意思吗Diamandis 是的我指的是在AI软件方面。马斯克在递归自我改进的过程中人类的参与度确实在逐渐降低。每一个新一代的模型都是由前一代模型构建的。这在很大程度上已经发生了但尚未实现完全自动化。也许今年年底能实现最迟不会超过明年。Diamandis 你认为到那时会出现智能“硬起飞”突变式发展吗马斯克 我们现在正处于硬起飞之中。Diamandis 好的。马斯克 就是现在。Diamandis 是的。马斯克 在这个阶段我晚上去睡觉时AI取得了一项重大突破等我醒来时又出现了另一项突破。Diamandis 确实。马斯克 坦白说很难跟上节奏。这确实让人感到有些头晕目眩。Diamandis 我想很多让人头晕目眩的突破也是你带来的。马斯克目前Grok发展得很不错。在某些指标上它是最优秀的。例如它在预测事物方面是最好的这可以说衡量智能的最佳指标。Grok的新版本非常出色。我们目前在编程能力上还处于落后状态。我刚才之所以迟到是因为我刚参加了一个关于编程的全体员工大会梳理了所有需要完成的工作以便在编程方面追赶并超越我们的竞争对手我相信我们能做到。我觉得我们大概在今年年中就能实现这个目标。此外我认为人们并不完全了解未来会有多么庞大的智能或者它超越人类智能的程度以至于到了无法完全理解的地步。你可以想象这样一种情况假设我们利用的能源比目前地球上所有的用电量多出一百万倍那仍然大约只是太阳能源输出的百万分之一。本质上如果你把美国经济扩大一百万倍它所消耗的能量仍然只是太阳能的一小部分。如果我们真正按太阳能的规模来计算就算你将当前的经济和用电量扩大约一百万倍你也大约只利用了太阳能的百万分之一。但是一个使用着比目前整个文明多一百万倍电力的经济体或智能体会是什么样子会想些什么会做些什么那将是一幅非常宏伟的景象。我们面临的挑战是哪怕只是隐约去理解那种庞大级别的智能都很难。但可以肯定地说它能解决你能想到的所有问题。Diamandis 是的这就像一场长途旅行。你可能会觉得这听起来有些可笑但我确实很欣赏这种不懈的乐观精神。马斯克 我看到你在将“希望”变现。你把“将希望变现”这句话铭记在心了这挺有趣的。Diamandis 那是Grok的功劳。那是当你猛烈吐槽我时Grok给我的营销建议。马斯克 对吧所以你在将希望变现。不过你之前也在将痛苦变现。Diamandis 那是肯定的。马斯克 当人工智能和机器人将经济产出提高几个数量级时那是我们根本无法想象的程度。Diamandis 我们很可能在极短的时间内成为这个星球上智能的少数然后是极少数最后变成微乎其微的少数。马斯克 是的。不仅是在地球上而是在整个太阳系中都是如此。因为如果你只在地球上发展智能最好的结果也就是智能所能利用的能源大约只占太阳能的十亿分之一。如果你只局限于地球这就是你最好的结果。Diamandis 也就是我们能拦截到的那部分能量对吧马斯克 是的。地球大约只接收到了太阳一小部分的能量这是宇宙中存在且我们能获取的绝大部分能量。所以实际上整个太阳系的智能将比地球上的智能高出许多个数量级。Diamandis 伊隆我能问个问题吗你能看到多远的未来你现在能对未来多少年做出合理的预测马斯克很难准确预测未来的路径。很多事情往往呈现为一条S型曲线或一系列S型曲线。一开始发展缓慢然后呈指数级增长接着进入线性区域最后变成对数增长增长放缓。这大致就是我在人工智能突破中看到的情况。比如出现某项突破后它会经历一条S型曲线看起来似乎要无限增长下去但随后收益就会呈现对数级递减直到出现下一项突破。因此人工智能的进步基本上就是一系列相互重叠、相互连接的S型曲线。Diamandis 曾经有一段时间你或许能预测未来十年或二十年的情况。你现在的想法是什么马斯克 我接下来的话听起来可能会很疯狂。Diamandis 没关系。因为你们一直是我们这些大胆预测的绝佳听众。马斯克 是的我想说在10年内经济规模将达到现在的10倍甚至更大。Diamandis 是的。你确实说过从现在起5年多以后GDP将出现三位数增长经济规模将达到现在的10倍。但就你的预测能力而言……马斯克 我觉得大约10年增长10倍实际上是一个相当保守的预测。除非发生第三次世界大战之类的事情打乱了这些计划预期。但在没有第三次世界大战的情况下如果目前的趋势继续下去我会说经济在10年内将增长10倍。Diamandis 我喜欢这个说法。你能给我们举个例子吗马斯克人类会在月球上建立基地。Diamandis 是的。并且我们将有人类……马斯克 登陆火星。Diamandis 我们还将在月球上建造质量投射器。马斯克 我想是的。我认为10年内我们就能在月球上拥有质量投射器。Diamandis 太棒了。杰拉德·K·奥尼尔的太空愿景正在实现。今年的“富足峰会”上我们有4个机器人同台亮相。我很期待“擎天柱Optimus”。我很好奇擎天柱3代的时间表特别是我什么时候能买一两台你预计擎天柱什么时候会投入商业销售还是说你会采用租赁的模式马斯克我们目前正处于擎天柱3代完成的最后阶段。它将是目前世界上最先进的机器人其他任何机器人都难以望其项背。事实上我还没见过任何像擎天柱3代一样出色的机器人演示。坦白说也许有这样的机器人存在或者它们处于保密状态但我还没看到。当然我必须确保我说的这些内容是可以适度公开的。Diamandis 我们正在X平台上直播这场对话。马斯克 好的那这已经非常公开了。Diamandis 是的。马斯克我想我们会在今年夏天开始生产擎天柱3代但一开始的产能会非常慢。制造数量随时间推移会呈现经典的S型曲线攀升大概到明年某个时候能达到大规模量产。接下来在擎天柱4代之后我们会加快设计迭代。明年我可能会尝试每年发布一款新的机器人设计并且每年都对机器人的设计进行改进。Diamandis 当我和戴夫·邦迪参观超级工厂时那是一次非凡的体验。特斯拉的厂房有一千一百五十万平方英尺。然后你曾说过你还将在那里为擎天柱建造九百五十万平方英尺的厂区这太令人惊叹了。马斯克 面积数字大概是这样。Diamandis 必须得是这样。马斯克 那会相当不错。那将是一个全新的工厂设计它与其他工厂截然不同。Diamandis 我们离“机器人制造机器人”还有多远你们已经将超级工厂的大部分环节自动化了人类在其中只扮演很小的角色。在制造方面机器人会接替目前人类扮演的角色吗马斯克 我们仍然有许多人类员工在参与制造。那些直接受雇于特斯拉、在一线制造产品的员工或者说工厂里的人要么在制造产品要么在管理制造产品的人。人数大约有十万。所以我们有很多员工。特斯拉的总人数大约在15万左右平均有三分之二的人以某种形式在工厂里工作。我们的供应商那里可能还有一百万到两百万人。所以涉及的人数非常多。我们预期的是特斯拉的人均产出将会变得非常高。因此我们没有裁员计划事实上我们还会增加员工人数。但人类的人均产出将会变得高得离谱。Diamandis 到了难以置信的程度。在你来参加播客节目时我们讨论了“可持续的富足”这个概念。你当时强调我们将迎来一个“全民高收入UHI”的时代这已经超越了“全民基本收入UBI”的讨论范畴。我想知道你对于我们如何实现这一目标有什么想法吗你有进一步的思考吗此外我们之前谈到了可能会有一段社会动荡期大概两到五年。在此期间直到我们实现“去货币化”和通货紧缩进而达到全民高收入UHI的阶段之前可能需要发放很多类似于疫情期间的救济支票。对此你有更多思考吗人们真的需要那种希望和愿景。马斯克 要明确的是我认为我们不应该感到自满。我们确实需要谨慎因为未来的结果是多种多样的并非所有结果都很美好。但就目前而言我同意你的看法未来很可能是美好的。大概有80%的几率甚至更有可能会很美好。我确实认为我们将实现全民收入。本质上就是直接向人们发钱。因为商品和服务的产出将远远超过货币供应量实际上就会出现通货紧缩。通货紧缩就是商品和服务的产出与货币供应量的比率。因此如果商品和服务的增长率超过了货币供应量的增长率我预测这将会发生那么就会出现通货紧缩。Diamandis 是的。许多人会创办新公司并相互竞争从而压低价格这会越来越快地增加变数并加剧通货紧缩。马斯克 基本上人工智能和机器人将制造出海量的产品并提供极多的服务以至于人类实际上没有需要亲自动手去做的事情了。对于人类来说总有欲望得到满足的一刻。所以回到我之前的例子如果经济规模比美国经济大一百万倍那么人类所有的欲望早就被满足了。甚至如果我们的经济规模比现在大一千倍你可能就已经满足了人们所能想到的一切物质需求。Diamandis 那么你认为金钱的价值会大幅下降吗我们会进入后资本主义时代吗马斯克是的我认为在未来的某个时刻金钱将不再具有现实意义。Diamandis 所以就在你成为……马斯克 未来的社会形态可能有点像伊恩·班克斯Iain Banks科幻小说《文明》Culture系列中所描述的那样。我认为未来的人工智能不会使用人类的货币它只会关心能源和质量也就是功率和吨位。Diamandis 这听起来有点讽刺对吧就在你即将成为拥有数万亿美元的超级富豪时金钱却开始失去价值了。马斯克 差不多吧。这一切财富数字实际上只代表了我所创立的公司的股权比例。这些钱并不是存在银行账户里的。严格来说我只是拥有这些公司一部分的股权。这些公司正在做很多有用的事情随着公司创造出价值其估值不断增长而股权比例折算下来构成了我的财富总额使得这个数字看起来很高。Diamandis 曾经有人采访我问我你的动力是什么是什么在驱动你我回答说埃隆的动力就是解决问题。他通过一次又一次地解决那些最大的难题致力于让这个世界变得更好。如果别人能解决这些问题他就不必亲自出马了但问题是没有其他人去解决。所以我只想对你表示感谢。马斯克 不客气。Diamandis 我很好奇你认为民主制度和现代机构能跟得上这场即将到来的“超音速海啸”吗它们会被时代的洪流冲垮吗会彻底崩溃吗我们该如何应对马斯克这被称为“奇点”是有原因的。很难预测奇点内部会发生什么。Grok 的标志就是奇点。Diamandis 我很喜欢。顺便说一句你身后的标志很漂亮非常华丽。马斯克 谢谢。那个光环象征着黑洞周围的质量和光线正在坠入其中。很难知道奇点内部会发生什么但这将是非常有趣的。我对未来的生活将会非常精彩充满信心。坦白说我认为人工智能和机器人技术也是我们解决预算赤字、避免国家破产的唯一途径。你对我的观点产生了一定的影响我现在决定要变得更加乐观。我们确实应该更加乐观。Diamandis 谢谢你伙计。马斯克 以前我并不是个乐观主义者可能是过多地沉浸在消极的一面了。Diamandis 将乐观主义和现实主义结合起来总归是有好处的。马斯克 完全正确。你不能自满也不能仅仅盲目假定一切都会顺利而是要努力让事情朝着好的方向发展。我的意思是未来肯定会发生一些令人惊叹的事情。如果我们拥有高度灵巧且极其聪明的仿生机器人那意味着地球上的每个人都能获得比现今世界上最富有的人还要好的医疗服务。顺便说一句别人都说我是最富有的人但我认为那些君主统治者实际上比我富有得多。比如我不得不接受了三次颈部手术因为前两次都做砸了。并且我的背现在还是会有些疼。我就在想人工智能能不能帮忙解决背痛问题如果能那将是一个巨大的胜利。而且我认为它一定能做到。背痛真的让人很难受。由于背痛的折磨导致睡眠质量变差人就会变得脾气暴躁。Diamandis 今天早上大卫·辛克莱David Sinclair来到了我们的舞台。他正在进行表观遗传重编程的临床人体试验。最近发表的一篇论文表明这种疗法能够实现关节修复。因此背痛或许正是它能消除的病症之一。马斯克 那将是非常了不起的。当然如果仅仅是解决背痛问题人类的平均幸福感就会得到极大提升。因为对于背痛来说这不是你会不会得的问题而是迟早的问题。人体设计上确实有些缺陷。Diamandis 我一直想邀请你来达拉斯的 Fountain Life 医疗中心。我们会帮你的。等你什么时候有空了一定要来。马斯克 你们那里都有什么设备我了解你们有核磁共振MRI和CT扫描之类的但你们拿到扫描结果后会怎么做呢Diamandis 我很乐意把服务清单发给你我会私信发给你。你真的太慷慨了。接下来要和我一起登台的是另一位伟大的“登月计划”企业家本·拉姆Ben Lamm。他经营着“复活灭绝物种”的 Colossal 公司正在研究复活猛犸象以及其他15个物种。我听说你想要一只迷你猛犸象这是真的吗马斯克 是的我觉得养一只迷你猛犸象做宠物一定会非常酷。那绝对是史诗级的。那些毛茸茸、可爱的小家伙到处奔跑嘶鸣光是想想那画面就让人感到兴奋。Diamandis 好的我会向本美言几句的。太奇妙了。马斯克 有人能在现实生活中建造一个《侏罗纪公园》吗如果真建成了哪怕有死亡风险我也绝对会去看看那一定酷毙了。Diamandis 我认为如果有人能做到这点那一定就是本·拉姆和他的 Colossal 公司。他正在通过工程技术创造生命。最近有人问他能否制造一只皮卡丘他说也许可以。马斯克 是的《侏罗纪世界》什么的那肯定会非常棒。Diamandis 好的我会问他的。埃隆非常感谢你来到这里与我们分享。谢谢你我的朋友。让我们把掌声送给埃隆·马斯克背景音起没有什么能阻挡我们了原文链接马斯克访谈爆了只要不发生三战未来10年全球GDP增长10倍在AI面前人类终将被边缘化-36氪
