Перевірка відношенням правдоподібностей

Кожна з двох порівнюваних моделей, нульова модель та альтернативна модель, окремо співставляється з даними, і записується логарифмічна правдоподібність. Пробна статистика (що часто позначують через D) є подвоєною різницею цих логарифмічних правдоподібностей:

${\displaystyle {\begin{aligned}D&=-2\ln \left({\frac {\text{likelihood for null model}}{\text{likelihood for alternative model}}}\right)\\&=-2\ln({\text{likelihood for null model}})+2\ln({\text{likelihood for alternative model}})\\\end{aligned}}}$

Модель із більшою кількістю параметрів завжди допасовуватиметься щонайменше так же добре (матиме рівну або більшу логарифмічну правдоподібність). Чи є вона суттєво кращою, і чи повинна їй тому віддаватися перевага, визначається виведенням імовірності або p-значення різниці D. Там, де нульова гіпотеза являє собою окремий випадок альтернативної гіпотези, розподіл імовірності статистичного критерію є приблизно хі-квадратним розподілом зі ступенями вільності, що дорівнюють df2 − df1.[2] Символи df1 та df2 представляють кількість вільних параметрів моделей 1 та 2, відповідно, нульової та альтернативної.

Ось приклад застосування. Якщо нульова модель має 1 параметр та логарифмічну правдоподібність −8024, а альтернативна модель має 3 параметри та логарифмічну правдоподібність −8012, то ймовірністю цієї різниці є те, що й хі-квадрат значення +2·(8024 − 8012) = 24 з 3 − 1 = 2 ступенями вільності. Щоби статистика слідувала розподілові хі-квадрат, мусять виконуватися деякі припущення,[3] і часто обчислюють емпіричні p-значення.

Перевірка відношенням правдоподібностей вимагає вкладених моделей, тобто таких моделей, що складнішу може бути перетворено на простішу накладенням набору обмежень на її параметри. Якщо моделі не є вкладеними, то натомість зазвичай може бути застосовано узагальнення перевірки відношенням правдоподібності: відносну правдоподібність.

Статистична модель часто є параметризованим сімейством функцій густини ймовірності або функцій маси ймовірності ${\displaystyle f(x|\theta )}$. Перевірка гіпотез проста-з-простою має повністю визначені моделі як за нульової гіпотези, так і за альтернативної, що для спрощення записуються в термінах фіксованих значень уявного параметра ${\displaystyle \theta }$:

${\displaystyle {\begin{aligned}H_{0}&:&\theta =\theta _{0},\\H_{1}&:&\theta =\theta _{1}.\end{aligned}}}$

Зауважте, що за кожної з гіпотез розподіл даних є повністю визначеним; невідомих параметрів для оцінки немає. Перевірка відношенням правдоподібностей ґрунтується на відношенні правдоподібностей, що часто позначають через ${\displaystyle \Lambda }$ (велика грецька літера лямбда). Відношення правдоподібностей визначається таким чином:[4][5]

${\displaystyle \Lambda (x)={\frac {L(\theta _{0}|x)}{L(\theta _{1}|x)}}={\frac {f(\cup _{i}\,x_{i}|\theta _{0})}{f(\cup _{i}\,x_{i}|\theta _{1})}}}$

або

${\displaystyle \Lambda (x)={\frac {L(\theta _{0}\mid x)}{\sup\{\,L(\theta \mid x):\theta \in \{\theta _{0},\theta _{1}\}\}}},}$

де ${\displaystyle L(\theta |x)}$ є функцією правдоподібності, а ${\displaystyle \sup }$ — функцією супремума. Зауважте, що деякі джерела можуть використовувати як визначення обернене.[6] У встановленому тут вигляді відношення правдоподібностей є малим, якщо альтернативна модель є кращою за нульову, і перевірка відношенням правдоподібностей дає таке правило рішення:

Якщо ${\displaystyle \Lambda >c}$, не відхиляти ${\displaystyle H_{0}}$;

Якщо ${\displaystyle \Lambda <c}$, відхилити ${\displaystyle H_{0}}$;

Відхилити з імовірністю ${\displaystyle q}$, якщо ${\displaystyle \Lambda =c.}$

Значення ${\displaystyle c,\;q}$ зазвичай обираються для отримання вказаного рівня значущості ${\displaystyle \alpha }$ за допомогою відношення ${\displaystyle q\cdot P(\Lambda =c\;|\;H_{0})+P(\Lambda <c\;|\;H_{0})=\alpha }$. Лема Неймана-Пірсона стверджує, що ця перевірка відношенням правдоподібностей є найпотужнішою серед усіх перевірок рівня ${\displaystyle \alpha }$ для цієї задачі.[1]

Нульову гіпотезу часто задають, кажучи, що параметр ${\displaystyle \theta }$ належить до вказаної підмножини ${\displaystyle \Theta _{0}}$ простору параметрів ${\displaystyle \Theta }$.

${\displaystyle {\begin{aligned}H_{0}&:&\theta \in \Theta _{0}\\H_{1}&:&\theta \in \Theta _{0}^{\complement }\end{aligned}}}$

Функцією правдоподібності є ${\displaystyle L(\theta |x)=f(x|\theta )}$ (де ${\displaystyle f(x|\theta )}$ є ФГІ або ФМІ), що є функцією від параметра ${\displaystyle \theta }$ при ${\displaystyle x}$, фіксованому на значенні, що фактично спостерігалося, тобто на даних. Статистикою перевірки відношенням правдоподібності є[7]

${\displaystyle \Lambda (x)={\frac {\sup\{\,L(\theta \mid x):\theta \in \Theta _{0}\,\}}{\sup\{\,L(\theta \mid x):\theta \in \Theta \,\}}}.}$

Тут запис ${\displaystyle \sup }$ стосується функції супремума.

Перевірка відношенням правдоподібностей — це будь-яка перевірка з критичною областю (або областю відхилення) вигляду ${\displaystyle \{x|\Lambda \leq c\}}$, де ${\displaystyle c}$ є числом, що задовольняє ${\displaystyle 0\leq c\leq 1}$. Багато поширених перевірних статистик, таких як Z-критерій, F-критерій, перевірка хі-квадрат Пірсона та G-критерій є перевірками вкладених моделей, і їх може бути сформульовано як відношення логарифмічних правдоподібностей або їхніх наближень.

• Практичне застосування описаної перевірки відношенням правдоподібностей (англ.)
• Пакет R: Послідовна перевірка відношення ймовірностей Вальда (англ.)
• Передбачувальні значення Річарда Лоурі та відношення правдоподібностей інтерактивний клінічний калькулятор (англ.)