信道容量

在電機工程學、電腦科學、資訊理論中，信道容量（Channel capacity，又譯通道容量）是指在一個信道中能夠可靠地傳送資訊時可達速率的最小上界。所謂可靠傳輸指的是可以以任意小的錯誤率傳遞信息。根據有噪信道編碼定理，信道容量是可以誤差概率任意小地達到的給定信道的極限信息率。信道容量的單位為比特每秒、奈特每秒等等。

香農在第二次世界大戰期間發展出信息論，為信道容量提了定義，並且提供了計算信道容量的數學模型。香農指出，信道容量是信道的輸入與輸出的互信息量的最大值，而相應的輸入分布稱為最佳輸入分布。

定義

X代表已傳送信號的隨機變數，Y代表已收到信號的隨機變數。$\ p_{Y|X}(y|x)$代表已知X的情況下Y的條件分布，為信道的內在固定屬性。於是依據如下性質

$\ p_{X,Y}(x,y)=p_{Y|X}(y|x)\,p_{X}(x)$

邊緣分布$p_{X}(x)$的選取完全決定了聯合分布$p_{X,Y}(x,y)$，這就能導出互信息$I(X;Y)$。信道容量定義為

$\ C=\sup _{p_{X}(x)}I(X;Y)\,$

其中上確界針對對所有可能的$p_{X}(x)$值。

有噪信道編碼定理

有噪信道編碼定理表明，對任意的ε > 0以及傳輸速率R小於信道容量C，在塊長度足夠大的情況下，總有一種在速率為R下傳輸的編碼和解碼方案，它的誤差概率小於ε。另外，對於任何大於信道容量的速率，隨着塊長度趨近於無窮，接受者的誤差概率也趨於1。

參見

• 信息論
• 信息熵
• 信道
• 有噪信道編碼定理