我们为什么要做这套研究
ALITA 做的事，说到底是探索信息的极限。上游接着大模型，下游连着用户真正拿到手的东西。想把中间这一段做对，绕不开一个问题：信息到底是什么。
麻烦在于，「信息」这个词在不同学科里指的不是一回事。哲学问的是，你凭什么说自己知道。神经科学问的是，光和声音怎么变成脑子里的活动。通信理论问的是，一条消息能减少多少不确定。物理学问的是，存一个比特、擦一个比特，要付出多少真实代价。四个问题都合法，答案却互不相通。
混着用，就会得出错的结论。研究整理稿点出两个典型的跳跃。一个是从「信息必须有物理载体」直接跳到「宇宙本质就是信息」。另一个是从「质量与能量有等价关系」跳到「物质只是能量的另一个名字」。前者把一个关于实现条件的说法抬成了世界的本体。后者忽略了相对论里质量、能量、动量和参考系之间更精确的关系。这类跳跃在产品上会变成看不见的坑：你以为在优化信息，其实在优化一个自己都没定义清楚的东西。
所以我们采用「分层而连接」的做法。
分层而连接：每一层先在自己的定义里站住
「人怎么认识世界」听上去是一个问题，拆开至少是四个。世界上究竟存在什么，这是本体论问题。我们凭什么说某个判断算知识，这是认识论问题。光、声音、机械力、化学分子怎么进入神经系统、变成知觉，这是机制问题。一次观察到底携带了多少关于真实状态的信息，经过编码、压缩、噪声和推断之后还剩多少，这是形式问题。
四层谁也替代不了谁。一个哲学家讨论什么是知识，不需要给出视网膜里离子通道的细节。一个神经科学家把视觉通路描述得再准确，也没有因此回答「为什么某种神经状态就构成有正当理由的知识」。一个公式算出两个变量之间的互信息，光凭这个数字说不出这份信息是不是真的、有没有意义、值不值得相信。
所以顺序不能倒过来：先让每一层在自己的严格定义里成立，再去找相邻两层之间靠得住的桥。好处很直接，就是不给概念跳跃留缝。前面说的两种跳跃，都是在层与层之间抄了近道——用一层的结论去回答另一层的问题，中间那座桥根本没搭。
这也是我们做产品判断时的次序。先问这句话属于哪一层，再问它在那一层里站不站得住，最后才问它能不能推到隔壁那一层去。
站住之后再搭桥。每座桥都有名字，也都有各自成熟的研究传统。
| 它连接的两层 | 这座桥 |
|---|---|
| 物理刺激 ↔ 神经信号 | 感觉转导。眼睛和耳朵把光、声音、压力、气味变成神经系统能继续处理的电化学变化。 |
| 证据 ↔ 信念 | 贝叶斯更新。新证据来了，原有判断该改成什么样，有一套明确的算法说了算。 |
| 观察 ↔ 不确定性 | 互信息。看过一眼之后，对真实情况的不确定平均减少了多少，可以算出一个数。 |
| 逻辑操作 ↔ 热力学 | Landauer 原理。擦掉一个比特，最少要付出多少热量，有一个下限。 |
| 内部模型 ↔ 外部世界 | 反馈控制。模型驱动的动作改变了世界，改变的结果又被重新观察到。 |
这些桥接起来，最后能连成一个圈：
Reality → Interaction → Information → Perception → Inference → Knowledge → Action → Reality
资料：NCBI Neuroscience — 感觉受体 · MIT 6.441 — 互信息 · MIT 6.302 — Feedback Systems
四个篇章
认识的边界 — 人凭什么说自己「知道」一件事。从有正当理由的真信念这个经典定义，到 1963 年 Gettier 举出的反例：三个条件都满足，人还可能只是碰巧蒙对。这一层给出的关键区分是，结果正确不等于过程可靠。还有一个对我们特别重要的结论：知识不是信息的同义词。
信息的度量 — 1948 年 Shannon 建立的框架。他刻意把「这条消息什么意思」从工程问题里先拿开，只研究不确定性、编码、噪声和信道容量。正因为不问意义，这套理论才能横跨文字、声音、图像和数字通信。这一层还讲一条对认识论最要紧的定理，叫数据处理不等式：对已经拿到的数据反复加工，凭空造不出关于原始事实的新信息。加工能去噪，能突出有用的结构，也能把过去的经验结合进来，但那份额外的信息来自过去，不是从这批数据里长出来的。
信息的物理代价 — 信息不是抽象的。任何一个比特都得由真实的物理自由度承载，任何一次计算都要遵守承载它的物理定律。在经典平衡条件下，擦掉一个比特的最低热耗散是 kBT ln2，温度越高，这个下限越大。2012 年 Bérut 等人在 Nature 上报告了直接的实验检验，慢擦除极限下测到的耗散接近这个下限。这一层同时划清一条界：信息处理有物理成本，不等于信息就是能量。
ALITA 站在哪一环 — 把上面三层落回产品。大模型很会处理信息，但有两件事它做不到：长期记住一个具体的人真实的做事习惯；让这些信息跟着这个人走。信息留在别人的系统里，人换个地方就带不走。ALITA 把一个人做事过程里的信息整合成一份长期记录，记的不是几个标签，是这个人一路是怎么走过来的。
资料：SEP — The Analysis of Knowledge · Shannon (1948) 原论文 · Bérut et al. (2012), Nature
三档证据，我们只在前两档上做决定
整理稿把所有引用的说法分成三档，这个分级我们照搬进产品决策。
| 档位 | 是什么 | 例子 |
|---|---|---|
| 已建立事实 | 有成熟理论和重复实验支撑 | Shannon 的信息论定理、相对论的质量—能量关系、感觉转导的生理机制 |
| 主流研究框架 | 解释力强，但仍有开放问题 | 贝叶斯认知、预测编码、自由能原理 |
| 哲学假说 | 有启发性，尚未被实验确立 | Wheeler 的 It from Bit |
先说清第二档那两个名字。预测编码说的是，大脑高层先对低层的活动做出预测，低层往上送的是实际和预测之间的差。自由能原理说的是，把感知、学习和行动放进同一个数学框架里描述。
区分的理由很实在。这两套框架在很多任务上解释力很强，但存在模型不可辨识、先验来源不明、神经实现方式不清等问题。把它们和热力学定律放在同一档，是在拿一个假设当地基。
至于 It from Bit，Wheeler 提出物理量的意义最终与可回答的是非问题及观察行为有关。这是有影响力的纲领性提案，不是像 Maxwell 方程那样被实验确立的定律。
所以：产品里的判断只建立在前两档上。第三档我们照写，标清楚它是假说，不拿它当承诺。
资料：Rao & Ballard (1999), Nature Neuroscience · Friston (2010), Nature Reviews Neuroscience · Wheeler — Information, Physics, Quantum
为什么这件事不只是咬文嚼字
第三层给出一条能往下推的结论：信息本身不提供能量，它决定的是系统已有的能量往哪儿走。
一个温度读数不产生压缩机需要的电，它只决定电要不要进压缩机。顺着往下推：信息错了，选择就错，动作就错，而被浪费掉的能量和物质是真的被浪费。假消息不在传出去的那一刻收费，代价推到了动作发生的时候。
所以让信息的来源可被追溯与核对，让一份记录在事后仍然可以被核对，不是道德口号，是省下真实的物理代价。
同样的道理落到用户这一端。记忆归用户自己，记录留在用户自己的机器上，身份由用户自己生成。这三件事是让信息跟着人走的前提，不是附加功能。
资料：Landauer (1961), IBM Journal · IBM Research — The Physical Nature of Information · MIT — Electronic Feedback Systems
延伸阅读
- Stanford Encyclopedia of Philosophy — Epistemology
- Stanford Encyclopedia of Philosophy — Information
- MIT OpenCourseWare — Information Theory 6.441
- Shannon (1948), A Mathematical Theory of Communication, Part I
- Bérut et al. (2012), Nature — Experimental verification of Landauer's principle
- National Academies — Reproducibility and Replicability in Science