第5章 判别分析
进一步的讨论
1) 当c(j|i)?1,i?j时,
因?P(j|i,R)?1, 故?P(j|i,R)?1?P(i|i,R)
j?1kj?i从而有
p???1?P(i|i,R)???1??fi(x)dx
*i?1i?1Rikk???1???fi(x)dx
i?1Rik当Ri?{x:pifi(x)?maxpjfj(x)},i?1~k时,
1?j?k第 21 页 共 34 页
第5章 判别分析
R?(R1,R2,?,Rk)是使p*最小的最优划分.
又由Bayes公式, 当出现样品x时, 总体Gi的后验概率
P(Gi|x)?故最优划分为
j?1~kpifi(x)
pf(x)?jjRi?{x:P(Gi|x)?maxP(Gj|x)}, (i?1~k)
1?j?k当有多个时, 任选一个.
第 22 页 共 34 页
第5章 判别分析
2) 当c(j|i),i?j不全相等时,
?k?L??pili??pi??P(j|i,R)c(j|i)?
i?1i?1?j?1?kk?k?????pic(j|i)?fi(x)dx?
Rjj?1?i?1?k???????pic(j|i)fi(x)dx?
Rjj?1?i?1?kkhj(x)??pc(j|i)f(x)iii?1k?????j?1khj(x)dx?? Rj?第 23 页 共 34 页
第5章 判别分析
取划分为
Rj?{x:hj(x)?minpifi(x)},j?1~k
1?i?k可使L达到最小. 若记
H(Gj|x)??c(j|i)P(Gi|x),j?1~k
i?1k(当出现x后,被判为来自Gj后验平均损失, 则有
Rj?{x:H(Gj|x)?minH(Gi|x)},j?1~k
1?i?k若有多个, 则任判一个.
第 24 页 共 34 页
第5章 判别分析
(2) 多个正态总体的Bayes判别
?1,i?j1) 对c(j|i)??的情况
?0,i?j(i) 当Σ1?Σ2???Σk?Σ时,设Gj~Np(?j,Σ)
(j?1~k)线性判别函数为
Wj(x)?aTjx?bj,
其中
T?1aTj?μjΣ,bj??1T?1μjΣμj?lnpj 2第 25 页 共 34 页