先把这个圈转一遍
前面几篇分开讲了感官、信息、知识、物理代价。现在把它们接起来。
设世界在某一刻的物理状态是 St。它通过某种相互作用产生可以被观测到的信号 Ot。感官和仪器都有限,所以 Ot 只保留了 St 的一部分结构,还混进了噪声。认知系统把 Ot 和记忆 Mt、已有模型 Bt、社会知识 Kt 结合起来,形成更新后的世界模型 Bt+1。模型产生预测和行动 At。行动通过执行器改变环境,世界进入 St+1。
写成一行,就是这个顺序:
Reality → Interaction → Information → Perception → Inference → Knowledge → Action → Reality
写成式子,是这三行:
O_t ~ P(O | S_t)
Bt+1 = Update(Bt, Ot, Mt, Kt)
At = π(Bt+1) St+1 = F(St, At)
这个圈里每一根箭头都归不同的学科管。「S_t → O_t」主要属于物理学、传感器科学和神经生理;「O_t → B_{t+1}」属于认知科学、统计推断与学习;「B → Knowledge」属于认识论和科学方法;「Knowledge → A」属于决策与控制;「A → S_{t+1}」又回到动力学、工程和生物行为。
最要紧的一点是:圈里的「知识」不是终点。它是可行动、可检验、可以被新证据改掉的模型。模型错了,行动就会产生和预测对不上的结果。这些结果再经过传感器变成信息,逼着系统去改模型。实验科学、工程控制、动物学习,还有很多 AI Agent 的结构,抽象出来都是同一个圈。
资料:SEP — Epistemology · MIT 6.441 — Information Theory lecture notes · MIT 6.302 — Feedback Systems
ALITA 站在推断到行动这一段
看清了圈,就能说清楚一个工具站在哪里。
ALITA 落在圈上的位置,是「推断 → 知识 → 行动」这一段。证据已经进来了,模型已经在动了,接下来的问题只有一个——这些信息怎么变成一件真做出来的东西。
这一段不是最抽象的一段,却是代价最实的一段。前面几篇反复说过一件事:信息处理不是免费的。它必须由真实的物理系统承担,要遵守热力学的约束——也就是说,处理信息这件事本身要耗能、要发热,跑不掉。信息从一个想法变成一份成品,中间经过的都是真实的物理处理。所以这一段的产物必须是看得见、可交付、可交换的东西:一份成品,一套可复用的做事方法,一段被记住的经验。
资料:Landauer (1961), IBM Journal · Bérut et al. (2012), Nature · MIT 6.302 — Feedback Systems
大模型做不到的两件事
大模型很擅长处理写下来的、公开的信息。但有两件事它做不到。
第一件,是精确记住并理解一个具体的人长期的真实行为习惯。大模型学到的是海量文本里的普遍规律,不是某一个人这三年怎么做事、怎么改主意、什么时候会返工。这不是模型不够大的问题。前面讲过数据处理不等式,说的是:拿到手的数据再怎么加工,也变不出关于原始变量的新统计信息。一个人长期行为的细节,如果从来没有进入过某条通道,那条通道上的任何计算都变不出它来。
第二件,是让这些信息跟着这个人走。信息留在别人的系统里,人换个地方就带不走。这不是承诺问题,是位置问题——记录放在哪台机器上,它就跟着那台机器。
所以这两件事都必须在用户自己的机器上解决:记忆归用户自己,记录留在用户自己的机器上,身份归用户自己。这是让信息跟着人走的前提,不是附加功能。
资料:MIT 6.441 — Data Processing Theorem · MIT 6.441 — Mutual Information
为什么记录要能被核对
再往深一层说,为什么要在意记录能不能被追溯、能不能被事后改掉。
信息本身不提供能量。它只是决定已有的能量往哪儿去。正因为如此,一个很小的信息差错,才能造成很大的物理后果。
错的信息导致错的动作。等到信息真的要变成物质与能量的调度时,浪费掉的能量与物质是真的浪费——一次白跑的运输,一批做废的料。假信息的麻烦,在于它不在传播的那一刻收费,而是把代价推到后面。
所以让信息的来源可被追溯与核对、让一份记录在事后仍然可以被核对,不是道德口号。它省下的是真实的物理代价。
资料:MIT 6.302 — Feedback Systems · IBM Research — The Physical Nature of Information · National Academies — Reproducibility and Replicability in Science
25 个维度记的不是标签
ALITA 有 25 个维度。它是把一个人做事过程里的信息整合起来的方式。
先说白话:它记的不是标签。不是「这个人擅长写作」「这个人是急性子」这种贴上去的词。它记的是这个人一路是怎么走过来的——遇到什么、试了什么、哪一步卡住、后来怎么绕过去、下一次遇到类似的事有没有变快。
标签是结论,过程是证据。前面讲 Gettier 问题时说过一个道理——那个问题说的是,一个人可能只是碰巧答对,所以结果正确不等于过程可靠。一个人偶尔做对一件事,和他有一套稳定管用的做法,在结果上可能长得一样,在过程上完全不同。只记标签,就把这个区别丢掉了。
这些维度是从不同角度去看同一个过程,避免只用一个尺子量所有事。具体是哪些维度、怎么算,这里不展开。重要的是它的性质:它是长期的、来自真实行为的、留在用户自己那边的。
到这里,可以把前面几篇一直在用的那条线索收口了。数据是可以被记录下来的状态;信息是状态之间的差异与统计关联;信念是一个认知主体对某个说法的态度;知识还要求真,以及一条讲得出来的正当理由;真理排在最外面一档——知识必须指向它,而相信本身并不能让人够到它。五者一级比一级紧,中间是不等号,不是等号:
数据 ≠ 信息 ≠ 信念 ≠ 知识 ≠ 真理
一个工具记的是哪一级,必须说实话,也不许往上冒充。25 个维度记的是前两级:发生过的事,以及这些事之间的关联。它不是「知识」,因为它不承诺真,也没有替谁做过正当化;它更不是「真理」。它顶多是一份摆出来的证据。把统计出来的倾向说成「这个人就是这样的」,就是拿低一级的东西冒充高一级——Gettier 提醒过的那种「碰巧对」,换个形式又回来了。所以维度只呈现过程和分布,判断留给用户自己下。
资料:SEP — The Analysis of Knowledge · SEP — Social Epistemology · SEP — Information
这个闭环不能解释什么
这个模型最强的地方,是把「认识」从纯粹的心灵事件放回物理世界。任何观察都需要相互作用,任何记录都需要载体,任何推断都依赖内部状态,任何知识都需要可辩护的证据路径,任何行动最终都通过物理能量改变环境。它可以当作哲学、AI Agent、神经科学、科学方法和控制系统之间的共同语言。
它也解释了为什么人不可能拿到一个完全无中介的「上帝视角」。观察永远发生在某条通道上,通道永远有限;模型永远依赖表示方式和先验;社会知识永远依赖制度与证言。科学的优势不是取消中介,而是让中介显式化、校准化、可重复化,让不同的观察者能互相检验。
但它不能干什么,得说得更硬一点。这类框架最容易被当成万能钥匙,所以边界要一条一条划清楚。
第一,它不是宇宙的终极定律。它是一张把几门学科接起来的综合模型,是接线图,不是新的物理定律。它没有预言任何一个新现象,也不该被当成什么都能从中推出来的第一原理。
第二,它回答不了意识的「困难问题」——为什么某种神经信息处理会伴随主观体验。这个圈能描述信号怎么进来、模型怎么更新、动作怎么出去。整套流程描述完了,主观体验为什么存在,这个问题仍然原封不动地摆在那里。
第三,它替代不了具体学科的严格结论。哲学家讨论「什么是知识」,不需要给出视网膜光转导的离子通道细节;神经科学家能准确描述视觉通路,也没有因此回答「为什么某种神经状态就构成有正当理由的知识」。每一层先在自己的严格定义里站住,接线图只负责说明层与层之间的接口在哪里。拿这张图去代替某一层的实验、证明或推导,是越权。它是一张接线图,不是一本教科书。
第四,它不能用来论证「信息是与物质、能量并列的第三种实体」。Landauer 讲的是信息处理必须由物理系统承担、要付热力学的代价,这是一个关于实现条件的命题。从「信息必须有物理载体」跳到「宇宙的本质就是信息」,中间缺的不是一点论证,是全部论证。同样,也不能仅凭 Landauer 说的代价、Shannon 说的度量,或者量子信息,就推出「意识创造现实」这类强本体论命题。它更证明不了宇宙最深层的本体究竟是物质、场、关系还是信息。
Wheeler 的 It from Bit 要单独标一档。他提出的是:一个物理量的意义,最终跟能不能用「是」或「否」问出来、跟观察这件事本身有关。这个提案很有影响力,也确实带出了一批关于观察与信息的讨论。但它是纲领性的物理与哲学提案,属于哲学假说这一档,不是像 Maxwell 方程或标准模型那样已经被实验确立的定律。把它和 Shannon 定理、相对论的质量—能量关系放在同一个证据等级上,是这个题目里最常见的误用。引用它的地方,都该同时标明它的档位。
真正有价值的方向,不是宣称「信息、物质、能量是宇宙的三种本体」,而是提出可检验的命题。比如:某类认知系统在给定传感器互信息上限下的最优模型误差是多少——互信息说的是,一次观察平均减少了多少关于世界的不确定性;主动行动怎样最大化未来观测的互信息;知识验证怎样等价为多主体之间的误差相关结构降低;信息约束怎样改变能量控制效率。只有当这些命题产生可计算、可实验的预测,理论才真正进入科学层面。
一个工具能做的,比这些命题小得多,也具体得多:站在推断到行动这一段,把信息老老实实变成用户拿得到手的东西,并且让这些信息跟着人走。
资料:Wheeler — Information, Physics, Quantum · IBM Research — The Physical Nature of Information · NIST — Quantum Information Science
延伸阅读
- Stanford Encyclopedia of Philosophy — Epistemology
- Stanford Encyclopedia of Philosophy — Information
- MIT OpenCourseWare — 6.302 Feedback Systems
- MIT 6.441 — Information Theory lecture notes
- Wheeler — Information, Physics, Quantum: The Search for Links
- National Academies — Reproducibility and Replicability in Science