第5章 判别分析
对G1的误判平均损失: l(1,R)?c(2|1)P(2|1,R), 对G2的误判平均损失:l(2,R)?c(1|2)P(1|2,R), 对整个误判的平均损失:
L?p1l(1,R)?p2l(2,R)
?c(2|1)?p1?P(2|1,R)?c(1|2)?p2?P(1|2,R)
可证使L最小的最优划分是
?R1?{x:c(2|1)p1f1(x)?c(1|2)p2f2(x)} ??R2?{x:c(2|1)p1f1(x)?c(1|2)p2f2(x)}或
第 6 页 共 34 页
第5章 判别分析
?R1?{x:c(2|1)P(G1|x)?c(1|2)P(G2|x)} ??R2?{x:c(2|1)P(G1|x)?c(1|2)P(G2|x))}当p1?p2时, 有
?R1?{x:c(2|1)f1(x)?c(1|2)f2(x)} ??R2?{x:c(2|1)f1(x)?c(1|2)f2(x)}当p1?p2, 且时c(1|2)?c(2|1)?c, 有 ?R1?{x:f1(x)?f2(x)} ??R2?{x:f1(x)?f2(x)}相当于经典统计学中的似然比准则判别.
第 7 页 共 34 页
第5章 判别分析
(2) 两个正态总体的Bayes判别 1) Σ1?Σ2?Σ的判别
?x?G1,ifW1(x)?W2(x) ??x?G2,ifW1(x)?W2(x)其中
TW1(x)?a1Tx?b1,W2(x)?a2x?b2,
及 a1?μ1Σ,b1??TT?11T?1μ1Σμ1?lnp1 2第 8 页 共 34 页
第5章 判别分析
Ta2?μ2TΣ?1,b2??1T?1μ2Σμ2?lnp2 2实用中, 用样本均值和样本协方差阵代.替. 当p1?p2?1时, 与距离判别等价. 2如用后验概率来判别(或其估计), 则有
?x?G1,ifP(G1|x)?P(G2|x). ?x?G,ifP(G|x)?P(G|x)?212
1) Σ1?Σ2的判别
第 9 页 共 34 页
第5章 判别分析
与距离判别的区别为广义平方距离函数
d12(x)?(x?μ1)TΣ1?1(x?μ1)?lnΣ1?2ln(c(2|1)p1),
2?1d2(x)?(x?μ2)TΣ2(x?μ2)?lnΣ2?2ln(c(1|2)p2)
推导过程略.
当 “三同”时, 与距离判别一样.
(3) 误判概率的计算
在Σ1?Σ2?Σ下, 作简要讨论.
2用广义距离d2(x)?d12(x)可导出划分
第 10 页 共 34 页