EP 70 · 69 min
从高低维度出发,重新理解人工智能
真实的世界是高维的,而我们生活在低维的投影里。从柏拉图的洞穴寓言到《三体》的降维打击,再到 Transformer 的向量空间——这期节目换一个视角:用维度来重新理解计算机和人工智能的本质。
在此页收听 / Listen here
这期讲了什么
- 我们看到的是真实世界吗? 从柏拉图的洞穴寓言、笛卡尔的”我思故我在”,到维度的视角——三种方式告诉你,我们感知到的一切都是高维世界的低维投影
- 维度是什么? 维度代表的是事物的自由度和复杂度,维度越高,描述越完整;而降维不可避免地带来信息损失,这就是”维度灾难”
- 《三体》帮我们理解维度:质子从 11 维展开刻蚀电路再折叠,“蓝色空间号”进入四维宇宙,二向箔的降维打击——刘慈欣用科幻把维度概念讲得比任何教科书都透彻
- 计算机从 0 和 1 出发逐步升维:从二进制到逻辑门、从程序到操作系统、从结构化数据到多媒体——整个计算机文明就是一部”从最低维度出发、不断升维”的历史
- AI 是比传统计算机更高维的表达:GPU 并行取代 CPU 串行、向量存储取代二维表、多层神经网络取代规则算法——每一步都是维度的跃升
- Transformer 的工作原理:词嵌入把文字映射到高维向量空间,自注意力机制捕捉词与词的关系,最终通过概率分布生成输出——这就是 ChatGPT 能”理解”语言的底层逻辑
试图回答的几个问题
- 为什么我们在世界地图上看到的俄罗斯比实际大那么多?
- 为什么大模型会”幻觉”——它在努力做什么?
- 为什么经济学家的预测总是不准?降维灾难是怎么造成的?
- 人类智慧是高维的,AI 能接近这个高维吗?
几个关键判断
- “降维打击”不是比喻,是字面意义上的降维:商业竞争中的”维度”差距,本质上是信息处理层次和复杂度的差距
- 大模型是对人类知识的”有损压缩”:类似 JPEG 对图像的压缩——大模型幻觉就是插值出错,它在用已知的”像素”猜测缺失的部分
- 语言是思想的边界:维特根斯坦说对了——文字是高维思想在低维空间的投影,这是为什么读了一本书还是学不会的根本原因
- AGI 不只是”AI 自己变聪明”:真正的超级智能,应该能帮助人类实现更高效的知识共享,像三体人的”思想透明”一样,消除信息从高维到低维的损耗
时间轴
- 00:50 我们无法看到真实世界的三种理解
- 05:47 维度的基本概念
- 16:58 如何用维度视角理解世界?
- 29:20 从维度视角如何看待计算机的发展?
- 35:44 从维度视角如何看待人工智能?
- 47:40 降维的数据训练人工智能模型
- 50:49 人工智能模型的升维处理
- 58:44 让人工智能提高人类知识传播效率
推荐阅读
- 埃德温·阿博特·阿博特:《平面国》(Flatland: A Romance of Many Dimensions),1884
- 特德·姜:《ChatGPT 是网上所有文本的模糊图像》,2023
- 个人长文:《从高低维度出发,重新理解人工智能》