互信息的含義
互信息的含義
互信息是信息論里一種有用的信息度量，它是指兩個事件集合之間的相關性。信道中總是存在著噪聲和干擾，信源發(fā)出消息x，通過信道后信宿只可能收到由于干擾作用引起的某種變形的y。信宿收到y(tǒng)后推測信源發(fā)出x的概率，這一過程可由后驗概率來描述。相應地，信源發(fā)出x的概率稱為先驗概率。我們定義x的后驗概率與先驗概率比值的對數為y對x的互信息量，也稱交互信息量，簡稱互信息。
導讀互信息是信息論里一種有用的信息度量，它是指兩個事件集合之間的相關性。信道中總是存在著噪聲和干擾，信源發(fā)出消息x，通過信道后信宿只可能收到由于干擾作用引起的某種變形的y。信宿收到y(tǒng)后推測信源發(fā)出x的概率，這一過程可由后驗概率來描述。相應地，信源發(fā)出x的概率稱為先驗概率。我們定義x的后驗概率與先驗概率比值的對數為y對x的互信息量，也稱交互信息量，簡稱互信息。
互信息是信息論里一種有用的信息度量，它是指兩個事件集合之間的相關性。信道中總是存在著噪聲和干擾，信源發(fā)出消息x，通過信道后信宿只可能收到由于干擾作用引起的某種變形的y。信宿收到y(tǒng)后推測信源發(fā)出x的概率，這一過程可由后驗概率來描述。相應地，信源發(fā)出x的概率稱為先驗概率。我們定義x的后驗概率與先驗概率比值的對數為y對x的互信息量，也稱交互信息量，簡稱互信息。
互信息的含義
互信息是信息論里一種有用的信息度量，它是指兩個事件集合之間的相關性。信道中總是存在著噪聲和干擾，信源發(fā)出消息x，通過信道后信宿只可能收到由于干擾作用引起的某種變形的y。信宿收到y(tǒng)后推測信源發(fā)出x的概率，這一過程可由后驗概率來描述。相應地，信源發(fā)出x的概率稱為先驗概率。我們定義x的后驗概率與先驗概率比值的對數為y對x的互信息量，也稱交互信息量，簡稱互信息。
為你推薦
科技
