Одиниці вимірювання інформації

Великий за розміром обсяг даних може містити в собі дуже малу кількість інформації. Тобто обсяг даних і кількість інформації є різними характеристиками, застосовуваними в різних галузях, пов'язаних з інформацією, але історично назву «кількість інформації» використовували у значенні «обсяг даних», а для вимірювання кількості інформації застосовували назви «інформаційна ентропія» і «цінність інформації».

Первинною характеристикою обсягу даних є кількість можливих станів.

Первинною одиницею виміру обсягу даних є 1 можливий стан (значення, код).

Вторинною характеристикою обсягу даних є розряд.

Ємність (обсяг) одного розряду може бути різною і залежить від основи застосованої системи кодування.

Ємності одного розряду в двійковій, трійковій і десятковій системах кодування: Один двійковий розряд (біт) має 2 взаємовиключних можливих стани (значення, коди).

Один трійковий розряд (трит) має 3 взаємовиключних можливих стани (значення, коди).

…

Один десятковий розряд (децит) має 10 взаємовиключних можливих станів (значень, кодів).

…

Третинними характеристиками обсягу даних є різні множини розрядів.

Ємність множини розрядів дорівнює кількості можливих станів цієї множини розрядів, яка визначається в комбінаториці і дорівнює кількості розміщень з повтореннями і обчислюється за формулою:

${\displaystyle {\bar {A}}(c,n)={\bar {A}}_{c}^{n}=c^{n}}$ можливих станів (кодів, значень)

де

${\displaystyle c}$ — кількість можливих станів одного розряду (основа вибраної системи кодування),

${\displaystyle n}$ — кількість розрядів у множині розрядів.

Тобто ємність множини розрядів являє собою показникову функцію від кількості розрядів з основою, що дорівнює кількості можливих станів одного розряду.

Приклад:

1 байт складається з 8-ми (${\displaystyle n=8}$) двійкових розрядів (${\displaystyle c=2}$) і може набувати:

${\displaystyle {\bar {A}}_{c}^{n}=c^{n}=2^{8}=256}$ можливих станів (значень, кодів).

Одиниці вимірювання інформації біт, нат, трит і бан (децит)

Коли деякі величини, зокрема й обсяг даних, являють собою показникові функції, то, в багатьох випадках, зручніше користуватися не самими величинами, а логарифмами цих величин.

Обсяг даних теж можна подавати логарифмічно, як логарифм кількості можливих станів[1].

Обсяг інформації (обсяг даних) може вимірюватися логарифмічно.[2] Це означає, що коли кілька об'єктів розглядаються як один, кількість можливих станів перемножується, а кількість інформації — додається. Не важливо, йде мова про випадкові величини в математиці, регістри цифрової пам'яті в техніці чи квантові системи у фізиці.

Для обсягів двійкових даних зручніше користуватися двійковими логарифмами.

${\displaystyle 2^{1}}$ можливих стани, ${\displaystyle \log _{2}2^{1}=1}$ двійковий розряд = 1 біт

${\displaystyle 2^{8}}$ можливих станів, ${\displaystyle \log _{2}2^{8}=8=2^{3}}$ двійкових розрядів = 1 байт (октет)

${\displaystyle 2^{8*2^{10}}}$ можливих станів, ${\displaystyle \log _{2}2^{8*2^{10}}=8*2^{10}=2^{13}}$ двійкових розрядів = 1 кілобайт (КілоОктет)

${\displaystyle 2^{8*2^{20}}}$ можливих станів, ${\displaystyle \log _{2}2^{8*2^{20}}=8*2^{20}=2^{23}}$ двійкових розрядів = 1 мегабайт (Мегаоктет)

${\displaystyle 2^{8*2^{30}}}$ можливих станів, ${\displaystyle \log _{2}2^{8*2^{30}}=8*2^{30}=2^{33}}$ двійкових розрядів = 1 гігабайт (Гігаоктет)

${\displaystyle 2^{8*2^{40}}}$ можливих станів, ${\displaystyle \log _{2}2^{8*2^{40}}=8*2^{40}=2^{43}}$ двійкових розрядів = 1 терабайт (Тераоктет)

Найменше ціле число, двійковий логарифм якого ціле додатне — це 2. Відповідна йому одиниця — біт — є основою обчислення обсягу інформації в цифровій техніці.

Для обсягів трійкових даних зручніше користуватися трійковими логарифмами.

${\displaystyle 3^{1}=3}$ можливих стани, ${\displaystyle \log _{3}3^{1}=1}$ трійковий розряд (трит)

${\displaystyle 3^{6}=729}$ можливих станів, ${\displaystyle \log _{3}3^{6}=6}$ трійкових розрядів (тритів) = 1 Трайт.

Одиниця, що відповідає числу 3 — трит, дорівнює ${\displaystyle \log _{2}3\approx 1,585}$ біта.

Така одиниця як нат (nat), відповідна натуральному логарифму, застосовується в інженерних і наукових розрахунках. В обчислювальній техніці вона практично не застосовується, оскільки основа натуральних логарифмів не є цілим числом.

Для обсягів десяткових даних зручніше користуватися десятковими логарифмами.

${\displaystyle 10^{1}=10}$ можливих станів, ${\displaystyle \log _{10}10^{1}=1}$ десятковий розряд = 1 децит

${\displaystyle 10^{10^{3}}}$ можливих станів, ${\displaystyle \log _{10}10^{10^{3}}=10^{3}}$ десяткових розрядів = 1 кілодецит.

${\displaystyle 10^{10^{6}}}$ можливих станів, ${\displaystyle \log _{10}10^{10^{6}}=10^{6}}$ десяткових розрядів = 1 мегадецит.

${\displaystyle 10^{10^{9}}}$ можливих станів, ${\displaystyle \log _{10}10^{10^{9}}=10^{9}}$ десяткових розрядів = 1 гігадецит.

Одиниця, що відповідає числу 10 — децит, дорівнює ${\displaystyle \log _{2}10\approx 3.322}$ біта.

В дротовій техніці зв'язку (телеграф і телефон) і радіо історично вперше одиниця інформації отримала позначення бод .

У цілих кількостях двійкових розрядів (бітів) кількість можливих станів дорівнює степеням двійки.

В принципі, байт визначається для конкретного комп'ютера як мінімальний крок адресації пам'яті, який на старих машинах не обов'язково дорівнював 8 бітам (а пам'ять не обов'язково складається з бітів — див., наприклад: трійковий комп'ютер). У сучасній традиції, байт часто вважають рівним восьми бітам.

У таких позначеннях як байт (українське) або B (англійське) під байтом (B) мають на увазі саме 8 біт, хоча сам термін «байт» не цілком коректний з точки зору теорії.

У французькій мові використовуються позначення o, Ko, Mo і т. д. (від слова octet) щоб підкреслити, що мова йде саме про 8 біт.

Довгий час різниці між множниками 1000 і 1024 намагалися не надавати великого значення. Щоб уникнути непорозумінь слід чітко розуміти різницю між:

• двійковими кратними одиницями, що позначаються відповідно до ГОСТ 8.417-2002 як «Кбайт», «Мбайт», «Гбайт» і т. д. (два в степенях кратних десяти);
• одиницями кілобайт, мегабайт, гігабайт і т. д., що розуміються як наукові терміни (десять в степенях, кратних трьом), які за визначенням рівні, відповідно, 10^3, 10⁶, 10⁹ байтам і т. д.

Як терміни для «Кбайт», «Мбайт», «Гбайт» і т. д. МЕК пропонує «кібібайт», «мебібайт», «гібібайт» і т. д., однак ці терміни критикуються за складність вимови і не зустрічаються в усному мовленні.

В різних галузях інформатики переваги у вживанні десяткових і двійкових одиниць теж різні. Причому, хоча з часу стандартизації термінології і позначень пройшло вже кілька років, далеко не скрізь прагнуть прояснити точне значення використовуваних одиниць.

В англійській мові для «кібі» = 1024 = 2¹⁰ іноді використовують велику літеру K, щоб підкреслити відмінність від позначуваного малою літерою префікса СІ кіло. Однак, таке позначення не спирається на авторитетний стандарт, на відміну від російського ГОСТу щодо «Кбайт».

• Двійкові префікси
• Машинне слово
• Теорія інформації
• Інформаційна ентропія
• Сетунь (комп'ютер)