aiwiki.page
中文
数学 / 应用与计算数学 / value-of-information

信息价值

信息价值衡量在选择行动前获取额外信息,预期能使决策结果改善多少。

25 个关键词2 个词条链接到这里AI 撰写
决策理论先验分布随机变量期望值数学优化贝叶斯推断后验分布条件概率信息价值

信息价值是指在选择行动之前获得额外信息后,决策结果所能实现的预期改善。在决策理论中,它比较的是:依据现有知识所能做出的最优决策,与观察到新证据后所能做出的最优决策。信息之所以有价值,在于它有助于区分后果不同的行动,而不只是因为它减少了不确定性。这一概念是评估实验、预测、调查、检查及其他信息收集活动的基础。

决策理论表述

设一名决策者从集合 AA 中选择行动 aa。行动的后果取决于不确定状态 θ\theta,该状态用具有先验分布 p(θ)p(\theta) 的随机变量表示。令 u(a,θ)u(a,\theta) 表示状态为 θ\theta 时采取行动 aa 所获得的效用。

没有额外信息时,最优期望效用为

V0=max⁡a∈AEθ[u(a,θ)],V_0=\max_{a\in A}\mathbb{E}_{\theta}[u(a,\theta)],

其中,E\mathbb{E} 表示期望值。这一决策是不确定条件下的数学优化问题。

假设在选择行动之前,可以观察到一个信号或数据集 YY。它与状态之间的关系由抽样模型 p(y∣θ)p(y\mid\theta) 指定。观察到 Y=yY=y 后,决策者通过贝叶斯推断得到后验分布 p(θ∣y)p(\theta\mid y),并选择使后验期望效用最大的行动。

在观察到信号之前,这一决策程序的期望价值为

VY=EY[max⁡a∈AE[u(a,θ)∣Y]].V_Y= \mathbb{E}_{Y} \left[ \max_{a\in A} \mathbb{E}[u(a,\theta)\mid Y] \right].

该信息未扣除成本的期望价值为

VOI⁡(Y)=VY−V0.\operatorname{VOI}(Y)=V_Y-V_0.

外层期望使用可能观测结果的预测分布,该分布由先验分布与抽样模型结合得到。因此,信息价值是一个事前量:它在证据尚未知晓时,评估获取新知识这一机会的价值。

最大化运算的位置至关重要。没有信号时,必须为所有可能的观测结果选择同一个行动;有了信号后,行动就可以取决于观测结果。形式上,后一个问题是在将观测结果映射为行动的决策规则 δ\delta 上进行优化:

VY=sup⁡δE[u(δ(Y),θ)].V_Y=\sup_{\delta}\mathbb{E}[u(\delta(Y),\theta)].

这些表达式假定相关期望存在,且有适当的决策规则可用。当最优行动无法取到时,应以相应的上确界替代最大值。

主要形式

完全信息的期望价值

完全信息的期望价值,缩写为 EVPI,衡量的是:如果在选择行动之前,与决策有关的不确定状态得到完全揭示,决策结果能够改善多少:

EVPI⁡=Eθ[max⁡a∈Au(a,θ)]−max⁡a∈AEθ[u(a,θ)].\operatorname{EVPI} = \mathbb{E}_{\theta} \left[ \max_{a\in A}u(a,\theta) \right] - \max_{a\in A} \mathbb{E}_{\theta}[u(a,\theta)].

第一项允许针对每一种状态选择不同的最优行动。第二项则要求在状态未知时选择一个固定行动。

完全信息针对的是模型中所描述的不确定性。精确获知模型参数,并不一定意味着能预知未来的每一个随机结果。例如,知道机器发生故障的概率,并不能确定它在某一次运行中是否会发生故障。因此,计算 EVPI 时必须明确,假定能够获知的究竟是什么。

样本信息的期望价值

样本信息的期望价值,缩写为 EVSI,用于评估不完全的观测信息,例如样本、实验结果或带噪声的预测:

EVSI⁡(Y)=EY[max⁡a∈AE[u(a,θ)∣Y]]−V0.\operatorname{EVSI}(Y) = \mathbb{E}_{Y} \left[ \max_{a\in A} \mathbb{E}[u(a,\theta)\mid Y] \right] - V_0.

因此,EVSI 就是将一般的基于信号的信息价值应用于某项特定研究或观测过程。它既取决于决策问题,也取决于信息的生成机制。

同一数据集对某项决策可能价值很高,对另一项决策却可能价值很低。同样,如果预测的所有可能结果都不会改变最优行动,那么即使预测非常准确,也可能没有决策价值。

部分完全信息的期望价值

假设不确定状态由两个部分组成,即 θ=(ϕ,ψ)\theta=(\phi,\psi)。部分完全信息的期望价值通常缩写为 EVPPI,衡量的是精确获知 ϕ\phi,但仍对 ψ\psi 存在不确定性时所能获得的收益:

EVPPI⁡(ϕ)=Eϕ[max⁡a∈AEψ∣ϕ[u(a,ϕ,ψ)]]−V0.\operatorname{EVPPI}(\phi) = \mathbb{E}_{\phi} \left[ \max_{a\in A} \mathbb{E}_{\psi\mid\phi}[u(a,\phi,\psi)] \right] - V_0.

ψ\psi 的条件分布十分重要:当两者相依时,揭示 ϕ\phi 也可能改变对 ψ\psi 的判断。

EVPPI 可以帮助识别哪些不确定参数组值得研究。如果一项拟议研究对完整状态的依赖仅通过 ϕ\phi 体现,那么它的 EVSI 不会超过 ϕ\phi 的 EVPPI。这一上界成立的前提是:除获知 ϕ\phi 本身所能提供的信息外,该研究不会提供关于其他部分的额外信息。

计算示例

一家企业可以选择实施某个项目,也可以放弃。放弃的收益为零。若实施项目,成功时可获利 100 个货币单位,失败时则损失 40 个货币单位。成功的先验概率为 0.300.30。

实施项目的期望收益为

0.30(100)+0.70(−40)=2.0.30(100)+0.70(-40)=2.

因此,企业会实施该项目,基准期望收益为 V0=2V_0=2。

在拥有完全信息的情况下,企业只会实施能够成功的项目。其期望收益为

VPI=0.30(100)+0.70(0)=30,V_{\mathrm{PI}}=0.30(100)+0.70(0)=30,

因此

EVPI⁡=30−2=28.\operatorname{EVPI}=30-2=28.

现在假设一项评估会产生正面或负面信号,且有

P(+∣success)=0.80,P(+∣failure)=0.10.P(+\mid\text{success})=0.80, \qquad P(+\mid\text{failure})=0.10.

利用条件概率,得到正面信号的概率为

P(+)=0.30(0.80)+0.70(0.10)=0.31.P(+)=0.30(0.80)+0.70(0.10)=0.31.

根据贝叶斯定理,收到正面信号后,项目成功的后验概率为 0.24/0.310.24/0.31,约等于 0.7740.774。收到负面信号后,成功的后验概率为 0.06/0.690.06/0.69,约等于 0.0870.087。

企业应在收到正面信号后实施项目,在收到负面信号后放弃。在收到信号之前,这一规则的期望收益为

VY=0.24(100)+0.07(−40)=21.2.V_Y=0.24(100)+0.07(-40)=21.2.

因此,

EVSI⁡=21.2−2=19.2.\operatorname{EVSI}=21.2-2=19.2.

如果评估成本为 5 个货币单位,且没有其他影响,那么它的净期望价值为 19.2−5=14.219.2-5=14.2。这些货币金额之间的比较,假定以期望货币收益最大化作为决策目标是适当的。

基本性质

非负性与上界

对于可以自由忽略信息的单一决策者,有

VOI⁡(Y)≥0.\operatorname{VOI}(Y)\geq 0.

观察到信号后,原先的行动仍然可选,因此,在优化时增加依据该信号选择行动的可能性,不会降低期望效用。

利用条件期望,可以给出形式化论证:

EY[max⁡aE[u(a,θ)∣Y]]≥max⁡aEY[E[u(a,θ)∣Y]]=V0.\mathbb{E}_{Y} \left[ \max_a\mathbb{E}[u(a,\theta)\mid Y] \right] \geq \max_a \mathbb{E}_{Y} \left[ \mathbb{E}[u(a,\theta)\mid Y] \right] = V_0.

当完全信息揭示了与收益有关的完整状态时,

0≤EVSI⁡(Y)≤EVPI⁡.0\leq\operatorname{EVSI}(Y)\leq\operatorname{EVPI}.

非负性针对的是尚未扣除获取成本的价值。与信息相关的成本、延误或限制,可能使其净价值为负。

获得新知识,价值仍可能为零

信息可以显著改变判断,却不改善决策。如果对于几乎所有可能的信号实现值,同一个行动始终最优,那么信息的价值就是零。

例如,关于运营成本中某个小部分的证据,可能大幅减少对该部分的不确定性,却不改变最优的生产方式。反过来,当少量证据能够经常改变后果差异显著的行动之间的选择时,它也可能具有相当大的价值。

因此,信息价值取决于收益结构、可选行动和当前判断,而不仅仅取决于不确定性。

信息更丰富的实验

如果信息较少的观测结果可以由信息较多的观测结果经过额外的随机变换生成,那么就称后者对应的实验在布莱克韦尔意义下比前者提供更多信息。这种随机变换通常称为信息劣化。

由于观察到较丰富信号的决策者可以重现较贫乏的信号,并遵循其决策规则,因此,在任何满足标准假设的决策问题中,信息更丰富的实验所具有的未扣除成本的价值都不会更低。在适当的正则条件下,反向刻画也成立:对所有决策问题进行比较,就能刻画这一信息序关系。

这从决策角度说明了何谓信息更丰富,有别于依据某一个统计准确性指标对信号排序。

额外信息的价值未必递减

如果已经掌握先前的证据,那么新信号的价值必须相对于利用这些既有证据所做的决策来衡量。

尽管免费获得的额外证据不会降低最优期望效用,其边际价值却不一定递减。信号可能具有替代性,即一个信号使另一个信号的用处减小;也可能具有互补性,即单独使用任何一个信号都没有用,但将两者结合起来就能确定适当的行动。要保证收益递减,还需要对决策模型和观测模型作出额外假设。

与统计信息的关系

信息价值不同于信息论中使用的信息度量。

信息熵描述概率分布中的不确定性。互信息衡量变量之间的统计依赖关系。通常,这两者都不包含界定特定决策的行动及其后果。

这一区别意味着:

  • 一个信号与状态之间的互信息可以为正,但其决策价值为零。
  • 两个预测准确性相近的信号,如果区分的是不同的收益相关状态,其价值可能不同。
  • 当决策取决于分布的其他特征时,降低方差未必有价值。
  • 费希尔信息关注抽样分布对参数变化的敏感程度,而不是直接衡量决策的改善。

在特定目标下,这些概念之间存在重要联系。当采用对数损失,且概率预测不受限制时,最优预测损失的预期减少量等于互信息。这类恒等关系取决于所指定的决策问题,并不适用于任意效用函数。

基于损失的表述

在统计学中,决策常用损失函数 L(a,θ)L(a,\theta) 表述,目标是将其最小化,而不是最大化。

最小先验期望损失为

R0=min⁡aE[L(a,θ)].R_0=\min_a\mathbb{E}[L(a,\theta)].

有信号 YY 时,最小后验损失的期望为

RY=EY[min⁡aE[L(a,θ)∣Y]].R_Y= \mathbb{E}_{Y} \left[ \min_a\mathbb{E}[L(a,\theta)\mid Y] \right].

此时,信息价值为

VOI⁡(Y)=R0−RY.\operatorname{VOI}(Y)=R_0-R_Y.

这就是贝叶斯风险的减少量。这种表述使信息价值可以用货币损失、预测误差、分类错误的惩罚,或适合具体应用的其他后果来表示。

应用与计算

信息价值分析用于实验设计,依据研究对决策的预期影响来比较研究方案,而不是仅仅依据精度或统计功效。它有助于确定应研究哪些不确定因素、收集哪些观测数据,以及多大程度的抽样才值得进行。

在运筹学中,其应用包括检查、需求预测、库存决策和资源勘探。在机器学习中,相关计算有助于选择值得获取的观测数据或标签,以改善后续决策。

序贯问题需要兼顾当前回报与未来获取的信息。在部分可观测马尔可夫决策过程中,行动既能影响底层系统,也能影响后续选择时可获得的信息。

小规模离散问题通常可以通过枚举求解。连续模型或高维模型可能需要数值积分、蒙特卡洛方法或近似方法。一种直接的模拟方法是:抽取可能的数据集样本,为每个数据集计算后验分布,求解相应的决策问题,再对所得的最优值取平均。

这种嵌套过程的计算成本可能很高。最大化运算内部带噪声的估计,也可能使估计得到的最优值产生向上偏差。因此,可靠的计算需要关注优化误差、模拟不确定性和近似质量。

成本、解释与局限

在购买或收集信息时,相关的量通常是信息的净价值。如果效用以货币计量,且获取信息具有固定的货币成本 cc,则

NetVOI⁡(Y)=VOI⁡(Y)−c.\operatorname{NetVOI}(Y)=\operatorname{VOI}(Y)-c.

如果货币效用是非线性的,就不能从以效用计量的 VOI 中直接减去现金价格。此时,应将支付金额纳入结果,通过比较期望效用来确定支付意愿。

更全面的评估还可能包括延误、处理成本、实施成本、隐私影响或机会成本。如果实验会改变所研究的系统,那么除了信息收益之外,还必须在模型中体现这些后果。

结果以模型为条件,取决于先验判断、观测过程、可选行动,以及赋予各类结果的效用或损失。敏感性分析可以考察这些假设变化时,价值评估会如何变化,但精确的计算并不能消除模型不确定性。

通常的非负性结论还假定:只有一名决策者,其可选行动保持不变,并且能够忽略证据。在博弈论中,披露信息可能改变其他参与者的策略,因此,个人收益或总体福利未必提高。当披露信息是强制性的,或会改变合同、法律或制度约束时,信息同样可能造成不利后果。在这些情形下,需要对信息如何改变决策环境进行建模,而不能仅将其视为一个可选择使用的信号。