第5章 判别分析
§5.2Bayes判别
1. Bayes判别的基本思想
假设已知对象的先验概率和“先验条件概率”, 而后得到后验概率, 由后验概率作出判别.
2. 两个总体的Bayes判别 (1) 基本推导
设概率密度为f1(x)和f2(x)的p维总体G1,G2出现的先验概率为
p1?P(G1),p2?P(G2)(p1?p2?1)
第 1 页 共 34 页
第5章 判别分析
先验概率的取法: (i) p1?p2?1n1n2, (ii) p1?, ,p2?2n1?n2n1?n2一个判别法 = 一个划分=R?(R1,R2)
?R1?R2?Rp,R1?R2??,
距离判别中
R1?{x|d(x,G1)?d(x,G2)}R2?{x|d(x,G1)?d(x,G2)}判别R下的误判情况讨论
第 2 页 共 34 页
第5章 判别分析
P(2|1,R)??f1(x)dx,
R2或
P(1|2,R)??f2(x)dx
R1代价分别记为
c(2|1),c(1|2),c(1|1)?0,c(2|2)?0,
在得新x后, 后验概率为
P(G1|x)?p1f1(x)
p1f1(x)?p2f2(x)第 3 页 共 34 页
第5章 判别分析
P(G2|x)?p2f2(x)
p1f1(x)?p2f2(x)(i) 当c(1|2)?c(2|1)?c时, 最优划分是
?R1?{x:P(G1|x)?P(G2|x)} ?R?{x:P(G|x)?P(G|x))}?212两个总体的Bayes的判别准则
?x?G1,ifP(G1|x)?P(G2|x) ??x?G2,ifP(G1|x)?P(G2|x)此时, 有最小的误判概率
第 4 页 共 34 页
第5章 判别分析
p*?p1P(2|1,R)?p2P(1|2,R).
因为
p*?p1?f1(x)dx?p2?f2(x)dx
R2R1?p1(1??f1(x)dx)?p2?f2(x)dx
R1R1?p1??R1?p2f2(x)?p1f1(x)?dx
只有取R1?{x:p2f2(x)?p1f1(x)}时, 才有最小. (ii) 当c(1|2)?c(2|1)时
第 5 页 共 34 页