作为扩展逻辑的概率

经典二值逻辑为每个命题赋予取自集合 {0, 1} 的值——假或真。这是一种适用于演绎确定性的理想化。然而现实世界几乎从不提供达到这种确定性所需的信息。概率是在信息缺失时进行诚实推理的数学工具。

在这一框架中，概率不是对频率表的计数操作，不是量子力学的奇特性，也不是心理倾向。它是似然性的一种数值度量——可用的信息集合在理性上允许一个命题成立的程度。这使得概率成为认知情势的属性，而非研究对象本身的属性。

这一洞见具有广泛的普适性。当我们说某只股票有“30% 的上涨概率”时，我们并不是在测量股票中的某种物理倾向。我们是在将所有已知信息——盈利、宏观制度、订单流、持仓——总结为一个关于命题“股票上涨”的单一数值凭证。信息改变，概率必须随之改变。这不是主观性，而是逻辑必然性。

机器人构造并非偶然地情感中立——它被设计成如此。其目的在于提供一个固定的逻辑参照，用以评估和修正人类推理。Cox–Jaynes 推导表明，任何满足这两个公理的体系都必须遵循标准的概率演算规则。这些规则不是被假设的，而是被推导出来的。

也许在应用推理中，最重要且最常被违反的原则是：不存在无条件概率这回事。每个概率都应完整写作 \(P(A \mid I)\)，其中 \(A\) 是命题，\(I\) 是作为赋值背景的总体信息。

当我们写 \(P(A)\) 时，仅仅是为了记法方便而压制了条件。这种压制始终是潜在的错误来源。当两位分析师对某个概率意见不同时，分歧几乎总是可以追溯到 \(I\) 的不同——他们基于不同的信息集进行推理，而不是各自犯了逻辑错误。

如此表述的贝叶斯定理并非一项统计技术。它是概率演算的一个定理，具有与演绎规则相同的逻辑地位。它精确地告诉我们，当数据 \(D\) 到达时，我们对假说 \(H\) 的置信度必须如何变化：

• 先验 \(P(H \mid I)\) 编码了数据到达之前我们所知的一切——它必须被陈述，而非隐藏。
• 似然 \(P(D \mid H, I)\) 提问：如果假说为真，这组数据的可能性有多大？
• 证据 \(P(D \mid I)\) 是一个归一化常数，确保后验是合法分布。
• 后验 \(P(H \mid D, I)\) 是我们新的理性置信度——应用该法则的强制性输出。

这一原则一个未被充分认识的后果是跨越逻辑时间的推理对称性。贝叶斯定理在正向方向（从假说预测未来数据）和反向方向（从观测数据推断原因）具有同等的有效性。我们在时间上体验到的非对称性是物理世界的一个特征，而非推理逻辑的特征。

贝叶斯定理的每次应用都需要一个先验。当信息稀疏时如何分配先验，并非细枝末节的技术问题——它是推断基础中最深层的问题。杰恩斯的答案是最大熵原理。

该原理指出：给定概率分布上的一组已知约束（矩、边界、对称性），分配与这些约束一致的具有最高香农熵的分布。形式化地，最大化：

其哲学理由精确而严谨：最大熵是唯一编码给定约束且不含更多信息的分布。任何其他选择都会偷偷引入隐藏信息——它断言了推理者实际上并不具备的结构。因此，最大熵是诚实的先验。

最大熵自然推广到最大相对熵原理（也称为 MinXEnt 或 Kullback–Leibler 框架），用于处理已经存在先验时的更新：最小化信息增益——即相对于先验的 KL 散度——服从新的约束。这是从信息论起点推导出的贝叶斯更新。

在二十世纪的大部分时间里，统计学分裂为两个敌对的阵营。回顾来看，这种分裂很大程度上是双方都在不够一般的层面上操作的结果。从杰恩斯框架来看，这一冲突不是被解决，而是被消解——因为其中一个立场涵摄了另一个。

关键的数学结果是：频率派方法在特定的、良定义的条件（通常是可交换性、大样本极限以及特定先验选择——通常是无信息先验或参考先验）下，被恢复为贝叶斯推断的极限情况。例如，最大似然估计的频率派抽样分布，就是在平坦先验和无限数据极限下贝叶斯后验的样子。

这不仅仅是说数值一致。它是一个更深刻的论断：频率派程序是良好校准的，恰好当且仅当它们能够从一个连贯的贝叶斯基础推导出来时。当它们不能如此推导时，往往会产生病态现象——例如，置信区间虽然具有正确的长期频率覆盖真值，但在某个具体实现的案例中覆盖真值的概率却为零。

香农的信息论与杰恩斯的概率框架不仅相容——它们是从不同方向抵达的同一底层结构的表达。香农问：从具有已知概率分布 \(p\) 的信源传输一条消息所需的最少比特数是多少？答案是熵 \(H[p] = -\sum p_i \log p_i\)。杰恩斯问：理性主体应当为未知信源分配什么样的分布？答案（在仅已知熵约束的条件下）是通过最大化——同一个函数——找到的。

这种趋同并非偶然。它反映了这样一个事实：概率、信息和逻辑是同一套在不确定性下进行一致推理的理论的三个面向。

• 熵 度量一个概率赋值中不可约的不确定性——即观测到一个结果时的期望信息增益。
• KL 散度 \(D_{KL}(P \| Q)\) 度量当 \(P\) 为真实分布时使用分布 \(Q\) 的信息代价——一种自然的推断损失函数。
• 互信息 \(I(X;Y)\) 度量知道 \(Y\) 能减少多少关于 \(X\) 的不确定性——“相关性”的形式化版本。
• 数据处理不等式 形式化地说明：你不能从处理后的数据中提取出比原始数据中更多的信息——这一定理对推断链条具有深远含义。

前述框架若被恰当内化，则不仅仅是哲学思辨。它会改变一个人作为分析师、投资者或科学家的行动方式。以下五项原则将逻辑框架转化为操作准则：

• 明确陈述你的先验。 每个概率论断都依赖于背景假设。让它们浮出水面。一个不能阐明其先验的分析师并非消除了先验——他们仅仅是隐藏了它，而隐藏的先验无法被审视、质疑或更新。
• 在所有证据上更新，而不仅仅是确认性证据。 贝叶斯推理是对称的：确认假说的数据会提高其后验；否定假说的数据必须降低它。选择性更新不是谨慎——而是一个会随时间累积的逻辑错误。
• 信息稀疏时使用最大熵构造先验。 不要出于习惯或计算便利而随意选择分布。问问自己实际知道什么——边界、矩、对称性——并从这些约束中推导出最诚实的分布。
• 切勿将认知状态投射到对象上。 当你说一项交易“有风险”或一次并购“不太可能”时，你是在陈述关于自己信息状态的论断，而不是关于交易或并购本身。区分这些范畴。混淆它们会产生过度自信、叙事偏差和锚定效应。
• 要求不确定性的可解释性。 一个不能被解释为对命题的直接置信度——而仅仅对假设的长期行为做出声称——的概率区间，对于单次决策而言在操作上是次优的。只要决策时域是有限的，就应优先选择后验可信区间而非经典的置信区间。