AI乐观派（上）｜那些技术乌托邦、超人类和加速主义者们

这期讲了什么

• 技术乐观主义的谱系：稍微乐观一点，就是技术乐观主义者；再往前走，就成了技术乌托邦主义者；如果把目标指向人类自身的突破，就到了超人类主义者；关心速度的，就是有效加速主义者（e/acc）——上下两期节目完整走一遍
• 萨姆·奥特曼的两篇文章：2021年的《万物摩尔定律》预言AI将带来价格归零、社会重新分配；2024年的《智能时代》宣告”几千天内超级智能就会到来”——他想做的是一个”点灯人”
• 本·格策尔与 AGI：AGI 这个词的流行跟他密切相关，2002年他与人合著《通用人工智能》，区分了狭义AI与通用AI。他也是美女机器人 Sophia 背后的 Hanson Robotics 首席科学家，以及 Humanity+ 主席
• 马克·安德森的双重炮轰：《为什么 AI 将拯救世界》逐一驳斥末日论者的五大风险（杀死人类/毁坏社会/取代工作/加剧不平等/被坏人利用），《技术乐观主义者宣言》直接宣告”技术是我们文明的基础，停滞意味着死亡”
• 浸信会教徒与私酒贩子：安德森用禁酒令时代的经济学比喻，解构 AI 监管支持者中”道德高尚者”与”利益驱动者”的合谋——这也折射出他从民主党转向支持特朗普的政治立场

试图回答的几个问题

• 奥特曼对 AI 的乐观，是真实的信仰还是商业叙事？
• 为什么 AGI 这个词变得如此流行，它和大语言模型是一回事吗？
• 技术乐观主义者为什么容易成为反监管的右翼？

几个关键判断

• “谨慎乐观”不算乐观：今天的主角是真的乐观，乐观到已经在讨论如何通过 AI 重新设计社会体制、分配财富——这是超出科技行业边界的政治经济设想
• 奥特曼的逻辑闭环：深度学习有效 → 规模扩大更好 → 投入更多资源 → 超级智能来临 → 劳动成本趋零 → 财富爆炸 → 对资本征税再分配 → 社会公平——他把 Scaling Law 和社会主义结合了
• 安德森的矛盾：他既反监管，又主张对大公司开放竞争；既是自由市场信徒，又主张政府介入打击中国 AI——政治立场决定了他的逻辑边界在哪里

时间轴

• 00:15 开场白
• 04:14 美剧《硅谷》（Silicon Valley）
• 06:04 萨姆·奥特曼（Sam Altman），OpenAI创始人和首席执行官
• 22:45 本·格策尔（Ben Goertzel）
• 23:49 格策尔2005年出版的《通用人工智能》
• 25:20 Hanson Robotics公司的美女机器人Sophia
• 28:07 马克·安德森（Marc Andreessen），风投基金a16z的联合创始人
• 32:12 浸信会（Baptists）和私酒贩子（Bootleggers），此经济学术语来自美国经济学家布鲁斯·亚特（Bruce Yandle）
• 56:20 美国经济学家布拉德福德·德龙（Brad DeLong）2022年出版的《延伸乌托邦：20世纪经济史》
• 01:02:22 电影《超能陆战队》

推荐阅读

• 萨姆·奥特曼：《智能时代》（The Intelligence Age），2024
• 萨姆·奥特曼：《万物摩尔定律》（Moore’s Law for Everything），2021
• 马克·安德森：《为什么 AI 将拯救世界》（Why AI Will Save the World），2023
• 个人长文：《AI乐观派｜那些技术乌托邦、超人类和加速主义者们》