Просмотр кода страницы Теоремы Шеннона для канала с шумами

{{не путать|Теорема Шеннона|другими теоремами Шеннона}}
'''Теоремы Шеннона для канала с шумами''' ('''теоремы Шеннона для передачи по каналу с шумами''') связывают пропускную способность канала передачи информации и существование кода, который возможно использовать для передачи информации по каналу с ошибкой, стремящейся к нулю (при увеличении длины блока).

== Формулировка теорем ==

Пусть
* <math>K</math> — длина блока, генерируемого источником
* <math>L</math> — длина блока, который будет передан по каналу (после кодирования)
* <math>R</math> — скорость передачи сообщений (производительность источника)
:: <math>R = K / L</math>
* <math>C</math> — [[пропускная способность канала]], определяемая как максимум [[Взаимная информация|взаимной информации]] на входе и выходе канала (<math>X</math> и <math>Y</math> — представление входа и выхода канала как [[Случайная величина|случайных величин]])

::<math>C = \max ( {I(X;Y)} )</math>
* <math>P_{er}</math> — средняя [[вероятность ошибки декодирования блока]]
* <math>P_{er,max}</math> — максимальная вероятность ошибки декодирования блока
:: <math>{P}_{er,max} = \max \limits_{1 \leqslant s \leqslant M} P_{er}</math>


;Прямая теорема
Если скорость передачи сообщений меньше пропускной способности канала связи (<math>R < C</math>), то существуют коды <math>\left\{ {\vec{x_1}, \vec{x_2}, ..., \vec{x_M}} \right\}</math> и методы декодирования такие, что средняя и максимальная вероятности ошибки декодирования стремятся к нулю, когда длина блока стремится к бесконечности, то есть <math>P_{er} \to 0</math>, <math>P_{er,\max} \to 0</math> при <math>L \to \infty</math>.

Иными словами: Для канала с помехами всегда можно найти такую систему кодирования, при которой сообщения будут переданы со сколь угодно большой [[степень верности|степенью верности]], если только производительность источника не превышает [[Пропускная способность канала|пропускной способности канала]].


;Обратная теорема
Если скорость передачи больше пропускной способности, то есть <math>R > C</math>, то не существует таких способов передачи, при которых вероятность ошибки стремится к нулю (<math>P_{er} \to 0</math>) при увеличении длины передаваемого блока, (<math>L \to \infty</math>).

== Предел Шеннона ==

Под пределом Шеннона ({{lang-en|Shannon limit}}) понимается максимальная скорость передачи, для которой имеется возможность (выбрать сигнально-кодовую конструкцию) исправить ошибки в канале с заданным [[Отношение сигнал/шум|отношением сигнал/шум]]. 
Для канала с [[Аддитивный белый гауссовский шум|аддитивным белым гауссовским шумом]] пропускная способность согласно формуле Шеннона:
::<math>C=\Delta F\cdot\log_2\left(1+\frac{P_{s}}{P_{n}}\right)=\Delta F\cdot\log_2\left(1+\frac{P_{s}}{N_{0}F}\right)</math>,
где 
* <math>\Delta F</math> — полоса частот канала, [[Герц (единица измерения)|Гц]],
* <math>P_{s}</math> — мощность сигнала, [[Ватт|Вт]],
* <math>P_{n}</math> — мощность шума, Вт,
* <math>N_{0}</math> — [[спектральная плотность мощности]] шума, Вт/Гц.
Максимальная пропускная способность канала с АБГШ и неограниченным спектром:
::<math>C_{\infty}=\lim_{F\to\infty}C=\lim_{F\to\infty}F\cdot\log_2 e \cdot\ln\left(1+\frac{P_{s}}{N_{0}F}\right)=\lim_{F\to\infty}F\cdot\frac{P_{s}}{N_{0}F} \log_2 e=\frac{P_{s}}{N_{0}} \log_2 e \approx \frac{P_{s}}{N_{0}}\cdot 1,443</math> бит/с.

В настоящее время ([[2007 год]]) максимальное приближение к этому пределу даёт [[LDPC-код]] с примерной длиной блока в 10 миллионов [[бит]].

Также, с другой стороны, под пределом Шеннона можно понимать минимальное отношение сигнал/шум, для которого теоретически возможно безошибочная передача и декодирование блока с заданной скоростью. Например, для вида модуляции [[QPSK]] и скорости передачи 1 (бит/с)/символ минимальное отношение сигнал/шум составляет 0,25 дБ.

== Литература ==
* {{source|Q27473383|ref=Габидулин, Пилипчук|ref-year=2007}} <!-- Лекции по теории информации -->
* ''Варгаузин, В.А., Цикин, И.А. ''Методы повышения энергетической и спектральной эффективности цифровой радиосвязи - СПб.: БХВ-Петербург, 2013 - 352 с. - ISBN 978-5-9775-0878-0

[[Категория:Теоремы теории информации]]
[[Категория:Шум]]