Ian Wang
Index

← 播客 / Podcast

从高低维度出发,重新理解人工智能
EP 70 · 69 min

从高低维度出发,重新理解人工智能

真实的世界是高维的,而我们生活在低维的投影里。从柏拉图的洞穴寓言到《三体》的降维打击,再到 Transformer 的向量空间——这期节目换一个视角:用维度来重新理解计算机和人工智能的本质。

在此页收听 / Listen here

在小宇宙收听 ↗

这期讲了什么

  • 我们看到的是真实世界吗? 从柏拉图的洞穴寓言、笛卡尔的”我思故我在”,到维度的视角——三种方式告诉你,我们感知到的一切都是高维世界的低维投影
  • 维度是什么? 维度代表的是事物的自由度和复杂度,维度越高,描述越完整;而降维不可避免地带来信息损失,这就是”维度灾难”
  • 《三体》帮我们理解维度:质子从 11 维展开刻蚀电路再折叠,“蓝色空间号”进入四维宇宙,二向箔的降维打击——刘慈欣用科幻把维度概念讲得比任何教科书都透彻
  • 计算机从 0 和 1 出发逐步升维:从二进制到逻辑门、从程序到操作系统、从结构化数据到多媒体——整个计算机文明就是一部”从最低维度出发、不断升维”的历史
  • AI 是比传统计算机更高维的表达:GPU 并行取代 CPU 串行、向量存储取代二维表、多层神经网络取代规则算法——每一步都是维度的跃升
  • Transformer 的工作原理:词嵌入把文字映射到高维向量空间,自注意力机制捕捉词与词的关系,最终通过概率分布生成输出——这就是 ChatGPT 能”理解”语言的底层逻辑

试图回答的几个问题

  • 为什么我们在世界地图上看到的俄罗斯比实际大那么多?
  • 为什么大模型会”幻觉”——它在努力做什么?
  • 为什么经济学家的预测总是不准?降维灾难是怎么造成的?
  • 人类智慧是高维的,AI 能接近这个高维吗?

几个关键判断

  • “降维打击”不是比喻,是字面意义上的降维:商业竞争中的”维度”差距,本质上是信息处理层次和复杂度的差距
  • 大模型是对人类知识的”有损压缩”:类似 JPEG 对图像的压缩——大模型幻觉就是插值出错,它在用已知的”像素”猜测缺失的部分
  • 语言是思想的边界:维特根斯坦说对了——文字是高维思想在低维空间的投影,这是为什么读了一本书还是学不会的根本原因
  • AGI 不只是”AI 自己变聪明”:真正的超级智能,应该能帮助人类实现更高效的知识共享,像三体人的”思想透明”一样,消除信息从高维到低维的损耗

时间轴

  • 00:50 我们无法看到真实世界的三种理解
  • 05:47 维度的基本概念
  • 16:58 如何用维度视角理解世界?
  • 29:20 从维度视角如何看待计算机的发展?
  • 35:44 从维度视角如何看待人工智能?
  • 47:40 降维的数据训练人工智能模型
  • 50:49 人工智能模型的升维处理
  • 58:44 让人工智能提高人类知识传播效率

推荐阅读