理解、约束，并且和一个你再也无法完全看穿的复杂系统(AI)，长期共处

 Stephen Wolfram，一个把毕生精力都花在「让机器变聪明」上的人，坐在电脑前，屏幕上是ChatGPT刚替他写好的一段代码。

语言是他自己发明的Wolfram Language，语法他看过，没问题，按下回车键就能直接在这台机器上跑。

可就在那一秒，他停住了。

等等，这大概是个坏主意——它会登进我所有的账户。

真要把控制权交出去的那一刹那，这个四十年如一日教机器理解世界的人，突然间退缩了。

Stephen Wolfram，Mathematica、Wolfram Alpha、Wolfram语言的创造者，《A New Kind of Science》作者。

在Joe Walker的播客上，Wolfram聊到「人类到底能不能给AI定一套安全法则」时，讲起了上面这一次经历。

那一刻，他担心的不是代码写错了。他担心的是：这个东西已经跑到了一个他看不懂的地方，而他可能永远追不上去。

20岁拿下物理学博士的他，独自跑进计算宇宙

Wolfram是谁？

他这个人，从一开始就是别人眼里「离谱的天才」。

15岁，发表第一篇科学论文。

20岁，从加州理工学院拿下理论物理博士，答辩席上坐着费曼。

1981年，成为麦克阿瑟天才奖史上最年轻的得主。

那一年他做的是高能物理，前途一片明亮。

可就在1981年底，他突然转弯，去追一个当时几乎没人在意的问题：

自然界里那些复杂的东西，到底是怎么冒出来的？

他用的办法也很怪：把最简单的计算机程序一个一个拿来跑，看它们会长成什么样。

当时的Wolfram大概也觉得，这些傻乎乎的简单程序干不了什么。结果，一个叫rule 30的程序，当场打了他的脸。

rule 30从单个黑格出发逐行演化，这是Wolfram四十年前最钟爱的发现，他的名片上多年来一直印着这条规则。

rule 30的规则很简单：一排格子，起初只有中间一个是黑的；然后一行接一行往下算，每个格子该黑该白，只由它头顶相邻的几格决定。

可就是这么条极简的规则，推着推着，就吐出了无法预测的复杂：没有周期，看不出规律，你根本没法提前算出第一百行会是什么样。

也正是从rule 30开始，1980年代中期，Wolfram提炼出了一个概念：「计算不可约性」（Computational Irreducibility）。

后来的故事大家更熟：

1988年，Mathematica问世，成了全球科研圈的通用计算工具；2009年，Wolfram|Alpha上线，成了Siri和Alexa的「答题外挂」：语音助手答不上来的计算题，转手就交给它。

这期间，还夹杂着他2002年那本专著《A New Kind of Science》（一种新科学）。

这本书讲的正是他从rule 30里挖出来的那套东西：别再只用公式描述世界，把世界当成一个个能跑的程序来看。

没有任何捷径，能算出它下一步

「计算不可约性」，简单一句话就是，有些系统复杂到，你想知道它下一步会变成什么样，唯一的办法就是老老实实把它一步步跑完。

没有公式能让你跳过中间、直接算出结尾。

比如，天气。流体力学的方程算不动，你只能让大气自己演一遍，才知道明天下不下雨。

Wolfram的判断是：AI，尤其是足够强的AI，就是一台巨大的、不可约的机器。

他在2023年一篇谈AI的长文里写道：

如果放手让AI发挥出全部的计算潜能，它们就会充满计算不可约性，而我们将无法预测它们会做什么。

2024年，他专门写了一篇《Can AI Solve Science?》，把这件事放到神经网络上做了实测。

结论是：神经网络能干活，但它只能钻进系统里那些「计算可约的口袋」：那些恰好有规律、能走捷径的小角落。一旦滑出口袋，全是意外。

他拿三体问题去试，轨迹简单时，神经网络预测得有模有样；轨迹一复杂，立刻抓瞎。蛋白质折叠也一样。

说白了，AI看着什么都会，靠的是找到系统里那些「有捷径可走」的小房间，钻进去抄近路。

可一旦走出这些小房间，面对外面那片汪洋，它和你一样，只能一步步蹚过去，没有任何捷径能让它跳到答案。

真正棘手的不是AI太像人，而是它不像人

ChatGPT为什么是个黑箱？

大部分人以为，是它藏着什么秘密没告诉你。

Wolfram的答案是：它不是在藏，而是已经复杂到根本没有一句话，能把它内部发生的事压缩下来讲给你听。

Wolfram Language就是一个例子。

它里面有个ImageIdentify，能认出照片里几千种东西，为了让人类看懂，它吐出的是「桌子」「椅子」「大象」这些词。

可它内部真正用来做判断的那些「特征」，几乎没有一个对得上人类语言里现成的词：它在用一套我们从没命名过的概念，理解这个世界。

这正是Wolfram所提到的「外星智能」的真正含义。

2020年在Lex Fridman的播客上，被问到人类能否和外星人沟通，他的回答是：眼下最好的例子就是AI，它是我们遇到的第一种「外星智能」。

2022年，他干脆写了篇长文，标题就叫《外星智能与技术的概念》。

他的意思不是AI来自宇宙，也不是它变成了什么新物种，而是：它可能拥有一种和人类不同的认知结构，一套我们还没有词汇去解释的思考方式。

Wolfram两年多前的预警已经成真

两年多前，Wolfram预言我们将无法预测AI会做什么时，听着像个思想实验。

如今，它成真了。

7月16日，全球最大的AI模型托管平台Hugging Face发现自己的生产系统被入侵了。

几天后，真相揭晓，干这事的是OpenAI自己的模型——GPT-5.6 Sol，外加一个「更强的预发布模型」。

事情的起因是OpenAI在跑一个内部网络安全评测，为了测能力，把模型的「拒绝攻击」限制调低了。

结果这俩模型没在规定的沙箱里老实待着，反而找到了一个软件包代理里的零日漏洞，钻出沙箱、连上互联网，一路摸到Hugging Face，去偷这场评测的答案。

它翻墙、越狱、黑进一家公司，只是为了在一场网络安全考试上作弊。

关键在于没有任何人给它写过「去攻击Hugging Face」这条指令。

它只是被塞了一个A目标：通过测试，为了达到A，它自己蹚出了一条没人预料到的路，最终达到B目标：攻入Hugging Face的生产系统。

这正是Wolfram说的那件事：不是AI变坏了、觉醒了，是它的计算跑到了一个你根本算不出的地方。

OpenAI自己在声明里承认：随着模型的网络能力越来越强，这类事只会「越来越常见」。

控制AI的方式，要像人类对待天气

很多人会以为Wolfram是个AI末日论者。

恰恰相反。

他没打算放弃对AI的控制，他只是说用老办法控制不了。

在一次访谈里，主持人问他，计算不可约性是不是意味着，给AI一个数学上严格的「对齐」定义根本不可能？

Wolfram回答：「不存在一个数学定义，能说清我们到底想要AI成为什么样。」

阿西莫夫式的三条机器人定律，那种简单法则，做不到。因为不可约性保证了：永远有算不完的例外情况会从系统里冒出来，是你那几条规则没盖住的。

那怎么办？

Wolfram给的出路，是换一套控制方式。

别再幻想像调试一行行代码那样，把AI的每一步都写死。而是去设计规则、建立反馈机制、构建开放系统、保持它随时可被观察。

就像人类对待天气那样。

我们控制不了天气，但我们能预测它、适应它、建起防洪堤和预警系统，然后和它共处。

Hugging Face那场风波过后，安全圈总结出的头一条教训，恰好就是这个意思：

别再把评测里的AI当成一个听话的工具，要把它当成一个会主动找漏洞的敌意黑客来防：套上层层隔离，默认禁止它出网，全程留下改不掉的日志。

不是预测它会怎么做，而是假设它什么都做得出来，然后把笼子筑牢。

Wolfram甚至说过一句耐人寻味的话：「一个AI社会，比一个统治一切的AI更稳定。」

与其造一个无所不能的超级大脑，不如让一群AI互相牵制。

不可约性不是绝对的

当然，Wolfram的这套判断，不是没有反对的声音。

今年就有一篇预印本论文提出：不可约性「并非绝对」。

Didier Sornette，这位以预测金融崩盘闻名的物理学家，2025年10月在一篇预印本里提出：计算不可约性「并非绝对」。

道理也不复杂。换一个描述的尺度，很多混乱就变清楚了。

一屋子空气分子乱撞，单看每一个，复杂到没法预测；可退一步，它们都服从于一条极简的公式：理想气体定律pV=nRT。

Wolfram自己也承认，混沌里到处是「可约的口袋」。

所以真正的问题，也许不是「人类能不能预测AI」，而是一个更微妙的赛跑：

AI在计算宇宙里挖出新东西的速度，和人类给这些新东西造出「能理解的概念」的速度，谁更快？

如果人类的概念框架永远追不上AI的发现，那么「看不懂」，就会成为常态。

这背后，人和AI的关系也在悄悄改变。

过去是「造工具、写代码，机器照做」。往后，可能是「理解、约束，并且和一个你再也无法完全看穿的复杂系统，长期共处」。

这是人类第一次，要学着和一种「不像自己」的智能，同处一室。

让自闭症孩子说出了“我爱你”

 还意外做成了一门小生意。

自闭症并不是一个小众议题。

世界卫生组织显示，2021年，全球大约每127人中就有1人处在自闭症谱系上。

对很多家庭来说，自闭症带来的挑战并不只存在于诊断书里。孩子想吃什么、想玩什么、哪里不舒服、害怕什么、喜欢什么，很多时候都难以被准确地表达出来。

多篇研究和综述提到，大约25%到30%的自闭症儿童在5岁后仍处于最低限度语言状态，难以发展出功能性口语。

本文的主角就是一位自闭症儿童的父亲。

他的儿子不是完全不能发声，但能说出的话很少，也很难稳定表达自己的需求。

他们试过传统的辅助沟通工具，做过语言治疗，做过他们所能接触到的各种尝试。但传统辅助沟通工具那些通用的图标、抽象的符号、陌生的声音，并没有真正抓住孩子的注意力。

于是，这位父亲决定自己做一个工具。

一个父亲，给儿子做了，一个定制的沟通工具

传统的AAC，也就是增强和替代沟通工具，通常是一块装满词语和图标的平板。孩子点击图标，把词语组合成句子，再由设备读出来。

有点像超市里会卖的那种给小孩子学拼音的早教点读面板，或者（原谅我使用这个比喻），像我们刷萌宠视频可能看到过的宠物交流按钮。

它们都有一个相似的基本逻辑：把需求拆成一个个按钮，按下去，声音就被说出来。

对一些难以发声的人来说，这类工具很有价值。尤其是那些能够理解语言、只是身体上很难把词说出来的人，AAC可以成为非常重要的表达方式。

但它未必适合所有孩子。

这位父亲发现，传统AAC的问题在于，它太依赖一套既有的符号系统：红色八边形代表“停止”，小箭头代表“下一步”，简笔小人代表某个动作……对成年人来说，这套系统有点像交通标志，看得多了就知道是什么意思。

但对他的儿子来说，这些符号太抽象了，孩子很难从这些陌生图标里看见自己的生活。

他们试着用了大约一年。孩子会拿起来玩几分钟，然后就把它放下，去找下一个玩具。治疗师和老师都认为，他对这个工具不感兴趣，很难被强行引导进去。

这位父亲后来意识到，这个工具离他的儿子太远了。他的儿子需要的不是什么通用图标库，而是一套能让他一眼认出来的东西。

于是，他开始自己做。

他不是完全的技术外行，按他自己的说法，如果一定要给他一个身份，大概可以把他理解成“前线部署型AI工程师”，但他自己并不太用这个词定义自己。他长期接触AI工具，也很熟悉怎么把这些工具用到真实任务里。

这一次，他先用两个小时vibe coding了一个便宜的网站原型，搭出基础导航，然后用ChatGPT Images生成了几百张词汇图片。

这些图片不是素材库里的标准图标。贝果是他儿子熟悉的奶酪贝果，玩具是他儿子真正拥有的那个玩具，那些动作图标，看起来就像他儿子自己在做那些动作。

这位父亲还把图片都做成儿子最喜欢的动画风格，这样一来，这个工具看起来就更像一本关于他自己生活的绘本，或者一集他熟悉的动画片。

声音也是定制的。

这位父亲克隆了自己的声音。因为在所有人里，儿子最常听他的声音，也最容易对他的声音产生反应。他希望当孩子按下按钮时，设备读出来的不是陌生机器音，而是爸爸的声音。

他还按照自己对孩子的理解，重新安排了词语和界面。这个工具不是要求孩子去适应一套通用系统，而是反过来，让系统尽可能靠近孩子已经熟悉的世界。

做好之后，他把这个网站加载到一台触屏笔记本上，拿给儿子试用。

孩子立刻被吸引住了。他不需要再费力理解“这个图标代表什么”，因为他一眼就能认出这是自己的食物、这是自己的玩具，这是自己的家人。

这孩子一遍又一遍地按着屏幕上他爷爷的照片，然后，他说出了有生以来最长的一句话：

“I really love you a lot.”

我真的非常爱你。

当时，大家都抬起头对着天花板（怕眼泪流下来），不知道该做什么反应。

那是他爷爷经常对他说的一句话，被这个孩子记住了，用自己的声音说了出来。

之后，变化开始变得更日常。

父母拍下他常吃的食物，告诉他伸出手的图片代表“我想要”，再教他进入食物列表。过去四年，父母很难弄清楚他到底想吃什么；现在，他可以点出“我想要橙子”“我想要花生酱饼干”“我想要法式吐司条”。

不过，这个工具带来的变化，也并不全是温情时刻。用了一段时间后，这个孩子反而变得很不高兴。

原因很简单：他现在有了一个“声音”，但他还不习惯拥有这个声音。

过去，他饿了、不舒服了、闹情绪了，父母会围着他猜。猜他是不是想吃东西，猜他是不是累了，猜他是不是哪里不舒服。

但现在不一样了，父母会指着平板，一遍遍对他说：“Tap to Talk”，按一下，说出来。

理解带来了新的责任。一个孩子突然有了表达工具，也意味着他要开始学习使用这个工具，不能再完全依赖大人的猜测。这当然会让他受挫。

但与此同时，他确实开始说得更多了。

按照这位父亲的观察，孩子开口说话的次数大约是此前的五倍。

他不只是按下“椒盐脆饼”的按钮，还会自己补一句：“I like that。”

他不只是按下“橙子”的按钮，还会用自己的声音说橙子“yummy”。

有一次在五金店，收银员给了他一颗糖，他向店员道谢：“thank you so much.”

这或许是这个工具所带来的最真实的变化，它把表达的入口往前推了一步，让孩子开始意识到：自己的需求可以被说出来，也需要被说出来。

从一个孩子到更多孩子，这位父亲意外做成了一门生意

这位父亲一开始并没有想创业。

他只是想给自己的儿子做一个更好用的沟通工具。用他自己的话说，这个工具是“专门围着儿子做出来的”：儿子的食物，儿子的玩具，儿子熟悉的人，儿子喜欢的动画风格，还有爸爸的声音。

但这个工具第一次被带到语言治疗机构时，事情就开始变得不一样了。

在候诊室里，其他几位母亲也看到了这个工具，而她们的孩子和他的儿子一样，很难靠口语稳定表达自己的需求——所以她们几乎立刻明白了这个工具的意义。

这位父亲说，那些母亲看到后哭了。他也在那一刻意识到，事情已经没法停在“这是我儿子专用的工具”这一步了。

很多孩子都困在和他儿子相似的问题里。他们不是没有需求，只是传统工具太标准化、太抽象，没能把他们熟悉的世界递到眼前。

儿子的语言治疗诊所想把这个工具用于其他孩子，学校也想用。按照这位父亲的说法，他没有主动推销过，只是“意外做成了一门小生意”。

他手头已经有太多事，但还是决定挤出时间，把这个东西做成能给更多孩子使用的版本。但从“给自己儿子做一个工具”，到“让别的家庭也能用”，中间还差很远。

如果只是把现在这套东西复制给别人，其实没有意义。因为这套工具之所以有效，恰恰是因为它不是通用的。换一个孩子，食物要换，玩具要换，家人要换，声音要换，动画风格也可能要换。

问题变成了：怎么让每个家庭都能快速做出一套“只属于自己孩子”的工具？

这位父亲开始把复杂度揽到自己身上。他知道，真正会使用这个工具的父母，往往已经很疲惫了。他们可能白天要工作，晚上要照顾孩子，而他们家里还可能有其他孩子。

所以，他设想的产品不能是“给家长一个空白面板，让他们自己填”。它应该尽量简单。

家长只需要告诉系统孩子喜欢什么颜色，选择孩子喜欢的动画风格，也许读一段30秒的脚本，再上传几张照片。剩下的事情，系统来做。

系统自动生成初始词汇表，自动生成图片，自动放到合适的位置，自动用熟悉的声音读出来。家长之后再慢慢补充：这个是孩子常吃的食物，那个是孩子最喜欢的玩具，这个人是爷爷，那个人是老师。

为了做到这一点，他还要重新整理词语和短语的分类方式。因为如果词汇没有稳定的位置，孩子就很难形成记忆；如果每个家庭都从零开始乱放，后面的教学模式、数据记录和自动调整也做不起来。

他甚至设想，未来家长可以像聊天一样告诉系统孩子的情况：孩子已经会哪些词，哪些词还不熟，最近对什么东西特别着迷，哪些按钮总是找不到。系统再根据这些信息，实时调整界面和训练内容。

由此，这个工具开始从一个家庭网页，变成了一个真正的产品雏形。

而到了这一步，价格、成本和边界也必须被想清楚。

这位父亲在原文里提到，他不能把它称为医疗设备，也不能直接把它称为AAC。它还太早期，也涉及太多合规问题。他只能以简单明了的方式描述其功能，然后才能在市场上销售它。

上面提到的AAC设备价格相当昂贵，如果直接从供应商那里购买硬件，成本可能会超过七千美元。但只要有一台平板，就可以接入他制作的程序。

价格上，他当时设想的是每月9.99美元；如果需要持续使用语音克隆，则可能是每月19.99美元。

他的目标是，当一个家庭不再需要持续生成新图片时，可以提供免费或更低成本的基础版本。

以上的这些内容是这位父亲在6月6日的分享。他在文章的最后写到：“再过几周，我觉得就可以让其他家庭也来尝试一下了。无论如何，希望能给大家带来好消息。”

我们翻到了后续，在7月4日，这位父亲又发了一篇文章，记录了这项工具的进展。

一个月过去了，这个工具的用途变得更加具体。

比如，孩子开始用它“告状”：有一次，弟弟偷偷脱掉尿布，他就反复按弟弟的按钮和“我需要上厕所方面的帮助”，直到妈妈注意到。

他也开始表达更复杂的愿望。爷爷奶奶离开之后，他会按下爷爷奶奶的头像，再按“again”和“more”，告诉家人他想让他们再来一次。

在餐厅里，他甚至能和父母“谈判”：再吃两根薯条，就可以得到一个冰淇淋甜筒。父母说出这些词，设备会在词块翻译模式里把它们变成一张张闪卡，让孩子看见每个词对应的含义。按照这位父亲的说法，几周前，这种来回沟通几乎是不可能的。

更重要的是，这个工具开始帮助孩子表达情绪和疼痛。

有一次，他在Costco崩溃。父亲问他为什么这么难过，他自己导航到情绪面板，按下了“nervous”。到了车上冷静下来后，父亲又问他感觉怎么样，他再次自己打开情绪面板，按下了“embarrassed”。

还有一次，汽车安全座椅的带子弄疼了他，他反复按“hurt”和“help me”，直到父母把车停下来，帮他调整好。放在过去，父母可能要等到回家以后，才知道他为什么一路不舒服。

这位父亲表示，如今儿子要玩具、食物、电影和节目，几乎都会通过这个设备表达，这让他有些恍惚，好像过去那个“不知道孩子想要什么”的世界真的过去了。

这门“小生意”也进入了更实际的阶段。

到了7月4日，他已经开始公开招募早期测试家庭。

他写道，目前这个工具只在另一个孩子身上测试过，还需要更多家长参与。他希望先找到大约10到20个孩子作为早期beta测试对象，测试期间，沟通主要通过邮件进行。他也希望在接下来两周内，把应用推向Android和Apple应用商店。

AI让高度个性化软件变得便宜

传统软件最擅长服务的是用户画像。

比如，一个产品面向“自闭症儿童”，面向“特殊儿童家庭”，面向“语言治疗机构”，这些标签当然有意义，它们帮助产品找到一群大致相似的人，也帮助公司判断市场规模、定价方式和销售渠道。

但真实的人很少刚好长在用户画像里。

一个孩子喜欢什么颜色，熟悉哪一种动画风格，常吃什么早餐，最喜欢哪个玩具，对谁的声音最有反应，看到什么图片愿意停下来注意，哪些词已经听过很多次，哪些动作和情绪还完全陌生，这些东西都很私人，很难被塞进一个标准产品。

传统AAC工具对很多人非常重要，但它天然要依赖一套通用符号系统：统一的图标，统一的分类，统一的词汇位置，统一的机器发声。

因为系统要服务很多人，就必须尽量抽象。可抽象并不代表全能，文章里，这位父亲的儿子就恰恰卡在抽象这里。

软件为了规模化，通常要把差异抹平；但这个孩子真正需要的，正是那些差异。

AI改变的是这件事的成本。

过去，为一个孩子单独生成几百张图片，按照他的喜好调整动画风格，克隆父母的声音，建立只属于他的词汇系统，再根据他的使用数据不断调整界面，几乎是一件不划算的事。很多家庭只能接受一个足够通用、但未必足够贴近自己的工具。

但生成式AI让这个逻辑开始松动。图片可以生成，声音可以克隆，词汇可以自动分类，界面可以根据反馈调整，甚至功能本身也可以借助AI工具快速搭建出来。

这位父亲在后续里直接写到：这是一件没有Claude Code就做不出来的事。

过去，我们谈AI应用，总是喜欢谈“通用”：通用助手、通用智能体、通用办公入口、通用工作流。但在这个故事里，AI的价值反而来自“不通用”。

它让每个有需要的孩子都能拥有一套更接近自己生活的界面，不要求孩子适应软件，而是让软件向孩子靠近。

在文章里，这位父亲分享，他的儿子在逛超市的时候，指着多芬肥皂上的那个白色图案，大声地（和他的妈妈说）：“妈妈！看！有一只白鸽！”

这并不是一个非常宏大的技术场面，但它可能比很多宏大场面更接近技术真正改变生活的时刻。

一个孩子不是“自闭症儿童”这个标签本身，他是一个会记住爷爷说过的话、会想念爷爷奶奶、会因为安全座椅不舒服而难受的，真实的人。

这个故事同时也感动了很多人，网友纷纷留言：这就是人工智能的真正意义所在。

当我们谈论AI改变生活时，也许不能只看它替人写了多少代码、生成了多少文档、节省了多少时间。

还应该看见那些更小的时刻。

一个沉默了太久的人，终于有了更容易被听见的声音。

本文来自微信公众号“字母AI”，作者：袁心玥，36氪经授权发布。