Теорема Шеннона — Гартлі

Розглядаючи всі можливі багаторівневі і багатофазні методи кодування, теорема Шеннона — Гартлі стверджує, що ємність каналу ${\displaystyle C}$, що означає теоретичну верхню межу швидкості передачі даних, які можна передати з даною середньою потужністю сигналу ${\displaystyle S}$ через аналоговий канал зв'язку, підданий дії аддитивного білого гаусівського шуму потужності ${\displaystyle N}$ дорівнює:

${\displaystyle C=B\log _{2}\left(1+{\frac {S}{N}}\right),}$

де

${\displaystyle C}$ — ємність каналу, біт/с;

${\displaystyle B}$ — смуга пропускання каналу, Гц;

${\displaystyle S}$ — повна потужність сигналу над смугою пропускання, Вт або В²;

${\displaystyle N}$ — повна шумова потужність над смугою пропускання, Вт або В²;

${\displaystyle S/N}$ — відношення сигналу до шуму (SNR) сигналу до гаусівському шуму, виражене як відношення потужностей.

Протягом кінця 1920-х рр.. Гаррі Найквіст і Ральф Гартлі розробили фундаментальні ідеї, пов'язані з передачею інформації, з допомогою телеграфу, як системи комунікацій. У той час, це був прорив, але науки як такої не існувало. У 1940х рр.., Клод Шеннон ввів поняття здатності каналу, яке базувалося на ідеях Найквіста і Гартлі, а потім сформулював повну теорію передачі інформації.

У даній теоремі визначено, що досягти максимальної швидкості (біт/с) можна шляхом збільшення смуги пропускання та потужності сигналу і, в той же час, зменшення шуму.

Теорема Шеннона — Гартлі обмежує інформаційну швидкість (біт/с) для заданої смуги пропускання і відношення «сигнал/шум». Для збільшення швидкості необхідно збільшити рівень корисного сигналу, відносно рівня шуму.

Якби існувала нескінченна смуга пропускання, бесшумовой аналоговий канал, то нею можна було б передати необмежену кількість безпомилкових даних за одиницю часу. Реальні канали мають обмежені розміри і в них завжди присутній шум.

Дивно, але не тільки обмеження смуги пропускання впливають на кількість переданої інформації. Якщо ми комбінуємо шум і обмеження смуги пропускання, ми дійсно бачимо, що є межа кількості інформації, яку можна було передати, навіть використовуючи багаторівневі методи кодування. У каналі, який розглядає теорема Шеннона — Гартлі, шум і сигнал доповнюють один одного. Таким чином, приймач сприймає сигнал, який дорівнює сумі сигналів, що кодує потрібну інформацію і безперервну випадкову, яка представляє шум.

Це доповнення створює непевність щодо цінності оригінального сигналу. Якщо приймач володіє інформацією про ймовірність непотрібного сигналу, який створює шум, то можна відновити інформацію у оригінальному вигляді, розглядаючи всі можливі впливи шумового процесу. У випадку теореми Шеннона — Гартлі шум, як такий, створений гаусівським процесом з деякими відхиленнями в каналі передачі. Такий канал називають сукупним білим гаусівським шумовим каналом, так як гаусівський шум є частиною корисного сигналу. «Білий» має на увазі рівність кількості шуму у всіх частотах у межах смуги пропускання каналу. Такий шум може виникнути при впливі випадкових джерел енергії, а також бути пов'язаний з помилками, що виникли при кодуванні. Знаючи про ймовірність виникнення гаусівського шуму, значно спрощується визначення корисного сигналу.

• Гартлі
• Теорема Найквіста — Шеннона
• Адитивний білий гаусів шум

• Herbert Taub, Donald L. Schilling (1986). Principles of Communication Systems. McGraw-Hill.
• John M. Wozencraft and Irwin Mark Jacobs (1965). Principles of Communications Engineering. New York: John Wiley & Sons.