Microsoft Word doc

Size: px

Start display at page:

Download "Microsoft Word - 33-0457-120208.doc"

药沈
7 years ago
Views:

1 第 35 卷第 2 期电子与信息学报 Vol.35 o 年 2 月 Journal of Electroncs & Informaton Technology Feb. 203 基于信息守恒的基本概率赋值概率转换方法 * 王万请赵拥军黄洁赖涛 ( 解放军信息工程大学郑州 ) 摘要 : 针对现有基本概率赋值概率转换方法普遍存在缺少客观标准, 主观介入程度过强的问题, 该文提出了一种线性加权概率转换方法该方法首先选择归一化先验信息作为权重, 消除了概率转换时主观因素的影响, 然后根据概率转换前后先验信息守恒的原理构造方程, 最后给出了转换概率的迭代求解方法实验算例表明, 该文方法求解速度快, 转换概率合理有效, 且与对事件的认知程度相一致关键词 :D-S 理论 ; 基本概率赋值 ; 概率转换 ; 先验信息 ; 信息守恒中图分类号 :TP39 文献标识码 : A 文章编号 : (203) DOI: /SP.J A Transformaton of Basc Probablty Assgnment to Probablty Based on Conservaton of Informaton Wang Wan-qng Zhao ong-jun Huang Je La Tao (Informaton Engneerng Unversty of PLA, Zhengzhou , Chna) Abstract: The exstng transform methods of basc probablty assgnment to probablty are wdespread lack of objectve crtera and wth much subjectvty. A lnear weghted probablty converson method s presented. Frst, the normalzed pror nformaton s selected as weght to elmnate the subjectve factors n transformaton; Then, an equaton s constructed based on the prncple of nformaton conservaton before and after the transformaton; Fnally, an teratve soluton method s gven for transformatonal probablty. The expermental examples show that the solvng speeds are fast, the transformatonal probabltes are reasonable, effectve, and consstent wth the awareness level of the event. Key words: Dempster-Shafer theory; Basc probablty assgnment; Probablty transformaton; Pror nformaton; Informaton conservaton 引言证据理论由 Dempster 于 967 年提出, 后经他的学生 Shafer 进一步发展完善, 所以又被称为 D-S 证据理论, 它可以表示由不知道和不确定所引起的不确定性, 目前已成为一种处理不确定性问题的重要理论 [], 被广泛应用于故障诊断 [2] 医疗诊断 [3] 系统安全 [4] 等领域基于 D-S 证据理论研究事件的不确定性时, 一般通过基本概率赋值 (Basc Probablty Assgnment, BPA) 对事件进行表示和推理, 然后将最终合成证据转换为概率, 进而借助概率论中的决策模型做出决策但是, 现有 BPA 概率转换方法普遍存在缺少客观标准, 主观介入程度过强的问题, 难以保证转换概率用于决策时的可靠性在客观标准方面, 有些学者认为概率转换时应该追求熵的最小化, 文献 [5] 证明了该思路的不合理收到, 改回国家 863 计划项目 (20AA70305) 资助课题 * 通信作者 : 王万请 wwqng3232@63.com 性 ; 许培达等人 [6] 在概率转换时追求证据关联系数的最大化, 旨在重现证据的原始信息, 却并未明确信息量度与关联系数的关系, 很难评价其合理性由于客观标准难以建立, 更多的方法依赖于对概率转换过程的主观认识, 如文献 [7] 提出的 Pgnstc 方法和 Cuzzoln [8] 提出的 CuzzP 方法均采用将多元素集合上的 BPA 均分到单元素子集上的思路, 主观认为概率转换时应该尽量保守, 造成了 BPA 蕴含信息的部分丢失, 不利于最终决策 ; 文献 [9] 从 D-S 证据理论的定义出发, 提供了系列概率转换公式, 为决策者不同的主观态度提供了不同的转换公式, 文献 [0] 提出了一种通过参数调整适应不同决策态度的 DSmP 方法文献 [9] 方法和文献 [0] 方法的灵活性好, 适用范围广, 但是转换公式和参数的选择仍然取决于主观认识那么能不能找到一种客观标准, 消除概率转换中主观因素的影响呢? 我们针对该问题展开研究, 认为对 BPA 进行概率转换的目的是为了决策, 而决

概率转换方法该方法首先选择归一化先验信息作为权重, 消除了概率转换时主观因素的影响, 然后根据概率转换前后先验信息守恒的原理构造方程, 最后给出了转换概率的迭代求解方法实验算例表明, 该文方法求解速度快, 转换概率

2 458 电子与信息学报第 35 卷策风险受对事件认知程度的影响, 所以为了保证决策的客观公正, 转换后概率和原 BPA 在体现事件的认知程度上应该一致先验信息指获得的经验和历史资料, 即已经掌握的信息, 所以归一化先验信息可以体现对事件的认知程度本文选择归一化先验信息作为事件认知程度的量度, 并作为概率转换时的权重系数, 提出了一种线性加权概率转换方法, 消除了概率转换中主观因素的影响在求解转换概率时, 根据转换前后事件先验信息守恒的原理构造方程, 并在证明解的唯一性基础上给出了一种迭代求解方法实验算例表明本文方法消除了概率转换中的主观因素, 迭代转换速度快, 转换概率与对事件的认知程度相一致 2 证据理论及认知度量 2. 证据理论基础证据理论建立在互不相容事件的完备集合基础上, 称其为辨识框架, 可表示为 = { θ, θ2,, θj,, θ} () 式中 θ j 称为辨识框架的一个事件或元素, 为元素个数由识别框架的所有子集构成的集合称为的幂集, 记为 2, 可表示为 2 = { φ,{ θ},{ θ2},,{ θn },{ θ θ2},{ θ θ3},, } (2) 当中有个元素时, 幂集 2 中就有 2 个元素 A 表示识别框架的任一子集, 记作 A, 基本概率赋值函数 ma ( ) 是一个从集合 2 到 [0,] 的映射, 且满足 m( ) = 0 (3) ma ( ) = A 2.2 信息论基础信息是对事物运动状态或存在方式的不确定性描述, 基本作用是减少或消除人们对事物认识的不确定性二十世纪中叶 shannon 定义了信息熵, 并指出在事件发生前, 它表示未知事件的不确定性 ; 事件发生后, 它表示该事件所提供的信息量对于离散有限集合 = { θ, θ2,, θ } 上的概率测度 P{}, 信息熵的计算公式为 HP ( ) P{ θ }log( P{ θ }) (4) = 当有限集合中各元素等概率分布时, 事件的不确定性最大, 此时信息熵最大, 该结论被称为最大离散熵定理, 即 = H,,, =log (5) 在信息熵定义基础上文献 [] 定义了概率信息容量 (Probablstc Informaton Content, PIC), 用来度量一个概率用于决策时的好坏 PIC( P) = + P{ θ}log( P{ θ}) (6) H max = 2.3 认知度量对于一个未知事件 X, 相应信息获取过程可分为先验和后验两个阶段, 先验信息 EP ( ) 是关于该事件已经掌握的信息, 后验信息 HP ( ) 指事件发生后从中得到的信息, 即信息熵所以, 一个事件从未知到确知所需的信息量为 TC ( X) = E( P) + H( P) (7) 因为等概率分布意味着对该事件完全未知, 此时先验信息 EP ( ) 为 0, 根据最大离散熵定理, 此时信息熵 HP ( ) 为 H max, 所以 TC ( X) 联合式 (4), 式 (6) 和式 (7) 得 EP ( ) = T( X) HP ( ) C = H + P{ θ }log( P{ θ }) max n = = PIC( P) (8) 由于 EP ( ) 是关于事件 X 的先验信息, 所以归一化先验信息 EP ( )/ TC ( X ) 可用于度量对事件 X 的认知程度 3 基于信息守恒的概率转换方法 3. 线性加权概率转换方法由于 BPA 可同时描述事件的不确定和不知道, 所以其中同时蕴含了已知信息和部分未知信息, 可理解为先验信息 EP ( ) 和后验信息 HP ( ) 两部分在幂集空间上发生了如图所示交叠情况 BPA 转换为概率的过程是把分布在多元素集合上的概率分配到单元素, 将 BPA 划分为知道和不知道两个部分, 从信息的角度便是对交叠部分信息进行如图 2 所示划分 BetP 方法将多元素集合 BPA 平均分配到所含单元素集合上 [7], 转换公式为 X P ( X) = (9) 图先验信息与后验信息间关系

原理构造方程, 并在证明解的唯一性基础上给出了一种迭代求解方法实验算例表明本文方法消除了概率转换中的主观因素, 迭代转换速度快, 转换概率与对事件的认知程度相一致 2 证据理论及认知度量 2.

3 第 2 期王万请等 : 基于信息守恒的基本概率赋值概率转换方法 459 图 2 概率转换后的先验信息和后验信息式 (9) 中表示集合中包含元素的个数, 该方法与文献 [2] 中证据熵的定义思路一致, 把交叠部分信息完全分配到后验部分, 最终的先验信息为 E = H + p ( x)log( p ( x)) (0) max x= 其中表示识别框架中元素的个数 PropP 方法按照单元素集合的 BPA 比例将多元素集合 BPA 进行划分 [3], 转换公式为 mz ( ) 转换后的先验信息为 () P2 ( X) = mz ( ) E = H + p ()log( x p ()) x (2) 2 max 2 2 x= 该方法转换后概率利于决策, 但可能会引入额外信息, 增大决策风险例如证据 m0({ θ }) = 0.09, m0({ θ2}) = 0.0, m0({ θ, θ2}) = 0.9, 转换后概率为 p(θ )=0.9, p(θ 2 )=0., 虽然证据 m 0 处于无把握 (dubous) 状态, 但是转换后却认为假设 θ 以 0.9 的概率发生 DSmP 方法是对上述两种方法的加权平均, 但是转换概率是参数的非线性函数, 并且缺少对事件认知水平的度量方法, 很难建立参数与认知程度的对应关系本文在上述方法基础上提出一种线性加权概率转换方法, 转换公式如下 : mz ( ) X PX ( ) = w + w2 (3) mz ( ) 式 (3) 中, 权重 w 和 w 2 满足 w + w2 =, 它们决定着概率转换时的主观倾向, w 较大时较为乐观, 转换后的概率易于决策 ; w 2 较大时态度较为保守, 决策风险较低 3.2 权重的确定乐观的概率转换方法转换后概率利于决策 ( 例如 PropP 方法 ), 但是会降低转换概率用于决策时的可靠性保守的概率转换方法会造成信息的损失, 降低转换概率用于决策时的便利性 ( 例如 BetP 方法 ) DSmP 方法对两种思路进行了折中处理, 通过参数 ε 的调整适用不同的转换态度, 但是该方法参数的确定取决于人的主观认识我们认为关于事件的先验信息较少时, 说明对其的认知程度不够, 此时为减小决策风险应该采取较为保守的转换方式 ( 倾向于 BetP 方法 ); 当先验信息较丰富时, 对事件理解比较透彻, 此时概率转换过程可相对乐观 ( 倾向于 PropP 方法 ) 由于本文方法中权重 w 和 w 2 决定着概率转换时的乐观程度, 权重的确定应考虑事件的认知程度, 保证转换概率用于决策时的可靠性, 而归一化先验信息可用于度量对未知事件的认知程度, 从而避免主观因素的干扰, 本文选择其作为参数 w BPA 是根据先验信息对未知事件作出的估计, 假设 BPA 提供的先验信息为 E m, 则 w = Em /H max, w2 = ( Em )/, 代入式 (3) 中得概率转换公式为 mz ( ) E m PX ( ) = H max mz ( ) Em X + (4) 联合式 (4), 式 (8), 式 (4) 可得到转换概率 PX ( ) 所提供的先验信息 E p 为 Em E m Ep = + A + B X Em E m log A B + (5) max 式中 A= m( Z) m( Z), B = X / 由于在概率转换过程中对事件的认知程度并未发生变化, 所以先验信息在概率转换前后应该保持不变, 即 Ep = Em = E, 代入式 (5) 得 E E Q = E A + B X E E log A B + = 0 (6) max 求解方程 Q = 0 便可得到权重, 进而得到转换概率 3.3 转换概率求解方法获得超越方程的解析解比较困难, 本文拟采用迭代方法计算转换概率, 首先证明解的唯一性证明

= H + p ()log( x p ()) x (2) 2 max 2 2 x= 该方法转换后概率利于决策, 但可能会引入额外信息, 增大决策风险例如证据 m0({ θ }) = 0.09, m0({ θ2}) = 0.0, m0({ θ, θ2}) = 0.9, 转换后概率为 p(θ )=0.9, p(θ 2 )=0.

4 460 电子与信息学报第 35 卷为了计算方便, 这里选择以 e 为底的信息熵计算方法, 对式 (6) 关于 E 求导得 dq A B = de X E E ln A B + max A B + A B = X E H max E + ln A + B H max max A B [+ln] X H max mz ( ) = H max X mz ( ) X X (7) 将式 (9), 式 () 代入式 (7) 得 dq P( X) P2( X) de H = (8) max X X 所以, 函数 Q 单调增又因为 X Q E 0 H = = max X X ln = H H max = E < 0 mz ( ) Q E= H = max X mz ( ) (9) mz ( ) ln mz ( ) = E2 > 0 所以方程 Q =0 存在唯一解证毕方程存在唯一解, 转换概率可唯一确定, 设计迭代求解流程如图 3, 步骤如下 : () 计算先验信息的初始值因为先验信息 E 应该满足 E E E2, 为了减少迭代次数, 选取 E 的初始值为 E (2) 计算转换概率将 E 的值代入式 (4) 中计算转换概率 (3) 计算先验信息根据步骤 (2) 得出的转换概率计算先验信息 (4) 迭代比较将步骤 (3) 的计算结果与上一 E 值进行比较, 如果相等则求得数值解, 执行步骤 (5), 否则回到步骤 (2) 执行 (5) 计算转换概率根据 E 的数值解计算权重, 并根据式 (4) 计算转换概率 4 实验算例图 3 迭代求解流程算例在港口船只的识别问题中, 识别框架为 { 军舰 (A), 民船 (B)}, 通过卫星对港口进行观测, 光学传感器和合成孔径雷达提供的证据 m, m 2 分别为 m( A) = 0.3 m2( A) 0.9 = m( B) = 0., m2( B) = 0.05 m( A B) = 0.6 m2( A B) = 0.05 在该算例中, = 2, H max = bt, 按照本文方法进行概率转换,m 迭代次数为 5 时计算出 w 为 0.039, m 2 迭代次数为 6 时计算出 w 为 , 迭代过程如图 4 所示 [0] 本文方法与不同参数条件下的 DSmP 方法的转换结果对比如表所示

> 0 所以方程 Q =0 存在唯一解证毕方程存在唯一解, 转换概率可唯一确定, 设计迭代求解流程如图 3, 步骤如下 : () 计算先验信息的初始值因为先验信息 E 应该满足 E E E2, 为了减少迭代次数, 选取 E 的初始值为 E (2) 计算转换概

5 第 2 期王万请等 : 基于信息守恒的基本概率赋值概率转换方法 46 m m 2 表本文方法与 DSmP 方法转换结果比较 DSmP ( ) ε= 本文方法 DSmP =0.5( ) DSmP ( ) ε ε=0 A B A B 从表可以看出 DSmP 方法在不同参数情况下的转换结果不同, 参数的合理选取比较重要在概率转换中不能为了决策方便而追求熵的最小化 [5], 而应该兼顾决策的可靠性通过计算得出 m 2 提供的先验信息为 bt, 多于 m 提供的 bt, 转本文 DSmPε= 0.5 本文换结果 pm ( A) < p ( ) m A, 而 p ( ) m A > 2 DSmPε =0.5 pm ( A), 可见在掌握先验信息较多时, 本文方 2 法在进行概率转换时较为乐观, 与常理相一致, 并且消除了主观因素影响算例 2 在军舰类型识别问题中, 识别框架为 { 航母战列舰 (A), 巡洋舰 (B), 驱逐舰 (C), 护卫舰 (D)}, 将从光学传感器合成孔径雷达电子支援措施等得到的多源证据进行融合, 合成证据 m 为 ma ( ) = 0.5 mb ( ) = mc ( ) = md ( ) = 0 ma ( B C D) = 0.5 该算例中,=4, H max = 2 bt, 按本文方法进行概率转换, 迭代 0 次得出 w 为 0.5, 迭代过程如图 5 所示从图 5 迭代过程可以看出, 本文方法收敛速度非常快, 如果对计算精度要求不高, 求解时间可进一步缩短本文与其它方法的转换结果对比如表 2 所示本算例的合成证据以较大可能认为假设 A 发生,ABCD 分配的 mass 为 0.5, 该合成证据含有较大的信息量从表 2 看出,BetP 方法和 CuzzP 方法将合集上的 mass 平均分配到其元素上, 会造成先验信息的损失, 不利于最终决策 PrPl 方法和参数 ε =0.5 时的 DSmP 方法将合集上的 mass 较多的分配给了假设 A, 较 BetP 方法和 CuzzP 方法更多的利用了先验信息 PropP 方法将合集上的 mass 全部分配到了假设 A 上, 可是根据 BPA 的物理意义, ma ( B C D) 应该分配一些 mass 到假设 B, C 和 D, 所以 PropP 方法在概率转换过程中引入了主观判断信息, 难以保证转换概率用于决策的可靠性本文方法在迭代计算转换概率时, 以先验信息在概率转换前后保持不变为约束条件, 更加合理的利用了证据提供的先验信息, 所得转换概率较 DSmP ε =0.5 方法更利于决策所以, 本文方法更为合理, 能够获得更为可靠的决策表 2 各种方法转换结果对比 A B C D BetP () [7] CuzzP ( ) PrPl ( ) [0] DSmP ε=0.5( ) 本文方法 PropP ( ) 结束语本文针对现有 BPA 概率转换方法普遍存在缺少客观标准, 主观介入程度过强的问题, 提出了一种线性加权概率转换方法该方法选择归一化先验信息作为权重, 消除了概率转换中主观因素的影响在求解转换概率时, 以先验信息在概率转换前后保持不变为约束条件, 更加合理的利用了证据提供的先验信息实验结果证明了本文方法的有效性但是, 虽然本文方法给出了概率转换的迭代求解方法, 却没有给出类似 DSmP 方法一样的显式转换公式, 图 4 算例迭代过程图 5 算例 2 迭代过程

0526 从表可以看出 DSmP 方法在不同参数情况下的转换结果不同, 参数的合理选取比较重要在概率转换中不能为了决策方便而追求熵的最小化 [5], 而应该兼顾决策的可靠性通过计算得出 m 2 提供的先验信息为 0.

6 462 电子与信息学报第 35 卷求解过程比较复杂所以, 下一步应该推导显式信息守恒概率转换公式, 并深化其在证据分类证据距离度量辅助决策等问题中的应用参考文献 [] Shafer G. A Mathematcal Theory of Evdence[M]. Prnceton: Prnceton Unversty Press, 976, [2] 苏晓燕, 邓勇, 吴英, 等. 基于改进 D-S 组合规则的故障模式分类 [J]. 振动测试与诊断, 20, 3(2): Su Xao-yan, Deng ong, Wu ng, et al.. Fault pattern classfcaton usng modfed dempster-shafer (D-S) combnaton rule[j]. Journal of Vbraton Measurement & Dagnoss, 20, 3(2): [3] 李艳娜, 齐秀全, 李晓峰. 基于证据理论的上下文本体建模以及不确定性推理方法 [J]. 电子与信息学报, 200, 32(8): L an-na, Q Xu-quan, and L Xao-feng. An uncertan context ontology modelng and reasonng approach based on D-S theory[j]. Journal of Electroncs & Informaton Technology, 200, 32(8): [4] Saterls C and Genge B. Theory of evdence-based automated decson makng n cyber-physcal systems[c]. 20 IEEE Internatonal Conference on Smart Measurements for Future Grds (SMFG), Bologna, 20: [5] Deqang H, Dezert J, Chongzhao H, et al.. Is entropy enough to evaluate the probablty transformaton approach of belef functon?[c] th Conference on Informaton Fuson, Ednburgh, 200: -7. [6] 许培达, 韩德强, 邓勇. 一种基本概率赋值转换为概率的最优化方法 [J]. 电子学报, 20, 39(3A): Xu Pe-da, Han De-qang, and Deng ong. An optmal transformaton of basc probablty assgnment to probablty[j]. Acta Electronca Snca, 20, 39(3A): [7] Smets P and Kennes R. The transferable belef model[j]. Artfcal Intellgence, 994, 66(3): [8] Cuzzoln F. On the propertes of the ntersecton probablty [OL] [9] Sudano J and Martn L. et another paradgm llustratng evdence fuson(apief)[c]. Internatonal Conference on Informaton Fuson, Florence, 200: -7. [0] Dezert J and Smarandache F. A new probablstc transformaton of belef mass assgnment[c] th Internatonal Conference on Informaton Fuson, Cologne, 2008: -8. [] Sudano J. The system Probablty Informaton Content (PIC) relatonshp to contrbutng components, combnng ndependent mult-source belefs, hybrd and pedgree pgnstc probabltes[c]. Proceedngs of the Ffth Internatonal Conference on Informaton Fuson, Annapols, 2002: [2] Wang B, Zhou X, ang G, et al.. DS theory-based software trustworthness classfcaton assessment[c] th Internatonal Conference on Ubqutous Intellgence & Computng and 7th Internatonal Conference on Autonomc & Trusted Computng (UIC/ATC), Xan, 200: [3] Danel M. Consstency of probablstc transformatons of belef functons[c]. Proceedngs of the Tenth Internatonal Conference IPMU, Peruga, 2004: 王万请 : 男,983 年生, 博士生, 研究方向为多源信息融合与态势分析. 赵拥军 : 男,964 年生, 教授, 博士生导师, 研究方向为雷达信号处理与信息处理. 黄洁 : 女,973 年生, 副教授, 研究方向为多源信息融合与态势分析.

. Fault pattern classfcaton usng modfed dempster-shafer (D-S) combnaton rule[j]. Journal of Vbraton Measurement & Dagnoss, 20, 3(2): 44-49. [3] 李艳娜, 齐秀全, 李晓峰.

说明为了反映教运行的基本状态, 为校和院制定相关政策和进行教建设与改革提供据依据, 校从程资源 ( 开类别开量规模 ) 教师结构程考核等维度, 对 2015 年春季期教运行基

说明为了反映教运行的基本状态, 为校和院制定相关政策和进行教建设与改革提供据依据, 校从程资源 ( 开类别开量规模 ) 教师结构程考核等维度, 对 2015 年春季期教运行基内部资料东北师范大教运行基本状态据报告 2015 年春季期教务处 2015 年 10 月 27 日说明为了反映教运行的基本状态, 为校和院制定相关政策和进行教建设与改革提供据依据, 校从程资源 ( 开类别开量规模 ) 教师结构程考核等维度,