Інформація за Фішером

У математичній статистиці та теорії інформації інформацією за Фішером називається міра кількості інформації, що спостережувана випадкова змінна X несе про невідомий параметр θ, від якого залежить ймовірність X. Формально це дисперсія функції внеску вибірки. Ця функція названа на честь Рональда Фішера, що описав її.

Визначення

Нехай  — густина розподілу для даної статистичної моделі . Тоді якщо визначена функція: ,

де  — логарифмічна функція правдоподібності, а  математичне сподівання за заданого , то вона називається інформацією за Фішером для даної статистичної моделі при незалежних випробуваннях. Для регулярних моделей: (У цьому і полягає означення регулярності).

На разі, виписана величина дорівнює її дисперсії, позаяк математичне сподівання функції внеску вибірки рівне нулю,.

Кількістю інформації за Фішером, що міститься в одному спостереженні, називають:

.

Для регулярних моделей всі рівні між собою.

Якщо вибірка складається з одного елементу, то інформація за Фішером записується так:

.

З умови регулярності, а також з того, що у разі незалежності випадкових величин дисперсія суми дорівнює сумі дисперсій, випливає, що для незалежних випробувань .

Властивості

  • З вказаної вище властивості дисперсій виходить, що у разі незалежності випадкових величин (що розглядаються в одній статистичній моделі) інформація за Фішером їхньої суми дорівнює сумі інформацій за Фішером кожної з них.
  • Позначимо інформацію за Фішером для випадкової величини через . Якщо  — статистика, для якої визначена інформація за Фішером, то .

Див. також

This article is issued from Wikipedia. The text is licensed under Creative Commons - Attribution - Sharealike. Additional terms may apply for the media files.