1.2信息论的基本内容
信源：产生消息的源泉，即提供消息的人、设备或事物。消息可以是文字、语言、图象等。而信源大致可以分为三类：1)自然信源，包括来自于物理、化学、天体、地理、生物等方面的自然的信息，主要通过各种传感器获得。2)社会信源，包括政治、军事、管理、金融等，通过社会调查、并利用统计方法加以整理。3)知识信源，古今中外记录下来的知识和专家经验。通信中信源：在通信中，信源就具体化为一个符号集和产生各个符号(或字母)的概率分布：
S {x1, x2, , xn}~ P { p1, p2, , pn}2012/2/19