Теорія ймовірностей

Нехай події A_i, (i = 1, 2, 3, 4, 5, 6) полягають у тому, що при одному киданні грального кубика випало ${\displaystyle i}$ очок ; подія А — парна кількість очок. Тоді подія А є множиною подій, елементами якої є події A₂, A₄, A₆, тобто A = {A₂, A₄, A₆}. Якщо при реалізації такої сукупності умов S відбулася одна з подій A₂, A₄, A₆, то це означає, що відбулася подія А (випала парна кількість очок). Отже події A₂, A₄, A₆ є реалізаціями, проявами події А.

Розподіл Пуассона, дискретний розподіл ймовірностей.

Дискретна теорія ймовірностей розглядає події, які виникають у зліченних просторах подій.

Наприклад: кидання гральних кісточок, експерименти із колодою карт, випадкове блукання, і підкидання монет

Класичне визначення: Спочатку ймовірність події визначали як кількість випадків, у яких може трапитися подія, із загальної кількості можливих випадків у рівноймовірнісному просторі подій: див. класичне визначення ймовірності.

Наприклад, якщо подією є те, «що при киданні гральної кістки випаде парне число», то ймовірність становитиме ${\displaystyle {\tfrac {3}{6}}={\tfrac {1}{2}}}$, оскільки 3 грані з 6 мають нанесені на них парні числа, і кожна грань має однакову ймовірність випадання.

Сучасне визначення: Сучасне визначення починається зі скінченної або зліченної множини, що називають простором елементарних подій, яка відповідає множині всіх можливих випадків у класичному розумінні, і яку позначають через ${\displaystyle \Omega }$. Тоді вважають, що кожному елементові ${\displaystyle x\in \Omega }$ відповідає істинне значення «ймовірності» ${\displaystyle f(x)\,}$, яке задовольняє наступним властивостям:

1. ${\displaystyle f(x)\in [0,1]{\mbox{ for all }}x\in \Omega \,;}$
2. ${\displaystyle \sum _{x\in \Omega }f(x)=1\,.}$

Таким чином, функція ймовірностей ${\displaystyle f(x)}$ набуває значень між нулем та одиницею для кожного значення ${\displaystyle x}$ у просторі подій ${\displaystyle \Omega }$, а сума ${\displaystyle f(x)}$ за всіма значеннями ${\displaystyle x}$ у просторі подій ${\displaystyle \Omega }$ дорівнює 1. Випадкова подія визначається як будь-яка підмножина ${\displaystyle E\,}$ простору елементарних подій ${\displaystyle \Omega \,}$. Ймовірність події ${\displaystyle E\,}$ визначають як

${\displaystyle P(E)=\sum _{x\in E}f(x)\,.}$

Таким чином, ймовірність повного простору подій дорівнює 1, а ймовірність нульової події дорівнює 0.

Функцію ${\displaystyle f(x)}$, що відображає точку в просторі подій на значення «ймовірності», називають функцією маси ймовірності, скорочено ФМІ. Сучасне визначення не намагається дати відповідь, як отримувати функції маси імовірності; натомість, воно вибудовує теорію, яка передбачає їхнє існування.

Нормальний розподіл, неперервна розподіл ймовірностей.

Неперервна теорія ймовірностей вивчає випадки, що виникають у неперервному просторі подій.

Класичне визначення: При стиканні з неперервним випадком класичне визначення не вибудовується. Див. парадокс Бертрана.

Сучасне визначення: Якщо вихідний простір випадкової величини X є множиною дійсних чисел (${\displaystyle \mathbb {R} }$) або її підмножиною, то існує функція, що називають кумулятивною функцією розподілу ймовірностей (КФР) ${\displaystyle F}$, і визначають як ${\displaystyle F(x)=P(X\leq x)\,}$. Функція F(x) повертає значення ймовірності, що відповідає тому що величина X є меншою або рівною x.

КФР обов'язково задовольняє наступним властивостям:

1. ${\displaystyle F\,}$ є монотонною не спадною, рівномірно неперервною функцією;
2. ${\displaystyle \lim _{x\rightarrow -\infty }F(x)=0\,;}$
3. ${\displaystyle \lim _{x\rightarrow \infty }F(x)=1\,.}$

Якщо ${\displaystyle F\,}$ є абсолютно неперервною, тобто, існує її похідна, а інтегрування її похідної функції знову дає КФР, то кажуть, що випадкова величина X має функцію густини імовірності, або ФГІ, або просто густину ${\displaystyle f(x)={\frac {dF(x)}{dx}}\,.}$

Для множини ${\displaystyle E\subseteq \mathbb {R} }$ ймовірність того, що значення випадкової величини X знаходиться в ${\displaystyle E}$, дорівнює

${\displaystyle P(X\in E)=\int _{x\in E}dF(x)\,.}$

У випадку існування функції густини це можливо записати як

${\displaystyle P(X\in E)=\int _{x\in E}f(x)\,dx\,.}$

В той час як ФГІ існує лише для неперервних випадкових величин, КФР існує для всіх випадкових величин (в тому числі й для дискретних), що набувають значень в ${\displaystyle \mathbb {R} \,.}$

Ці поняття можливо узагальнити й для багатовимірних випадків у просторі ${\displaystyle \mathbb {R} ^{n}}$ та інших неперервних просторів подій.

Інтуїтивно можна передбачити, що якщо монету підкинути багато разів, тоді приблизно половину разів вона падатиме чіт до гори, а іншу половину разів до гори випаде лишка. Крім того, чим більше разів підкидати монети, тим ймовірніше співвідношення кількості випадіння чіт до кількості лишків буде наближатися до одиниці. Сучасна теорія ймовірності надає формальне визначення цієї інтуїтивної здогадки, що відоме як закон великих чисел. Цей закон є визначальним, оскільки він не є припущенням яке лежить в основі теорії ймовірностей, а є теоремою, що доведена із її аксіом. Оскільки він пов'язує теоретично виведені ймовірності на основі частоти їх фактичного виникнення при реальному спостереженні, закон великих чисел є одним із найважливішим в історії статистичної теорії і має широке застосування.[11]

Закон великих чисел стверджує, що вибіркове середнє

${\displaystyle {\overline {X}}_{n}={\frac {1}{n}}{\sum _{k=1}^{n}X_{k}}}$

послідовності незалежних і однаково розподілених випадкових величин ${\displaystyle X_{k}}$ збігається до їх спільного сподівання ${\displaystyle \mu }$, за умови що математичне сподівання ${\displaystyle |X_{k}|}$ є скінченним.

Різні форми збіжності випадкових величин визначають як наслідок дві форми закону великих чисел: слабкий і сильний

Слабкий закон: ${\displaystyle \displaystyle {\overline {X}}_{n}\,{\xrightarrow {P}}\,\mu }$ для ${\displaystyle n\to \infty }$

Сильний закон: ${\displaystyle \displaystyle {\overline {X}}_{n}\,{\xrightarrow {\mathrm {a.\,s.} }}\,\mu }$ для ${\displaystyle n\to \infty .}$

Із закону великих чисел випливає, що навіть якщо ймовірність p є результатом спостережень за повторюваними незалежними експериментами, співвідношення частоти спостереження за цією подією до загальної кількості повторень експерименту буде збігатися до значення p.

Наприклад, якщо ${\displaystyle Y_{1},Y_{2},...\,}$ є незалежними випадковими величинами Бернуллі, що можуть приймати значення 1 із ймовірністю p і значення 0 із ймовірністю 1-p, тоді ${\displaystyle {\textrm {E}}(Y_{i})=p}$ для всіх i, так що ${\displaystyle {\bar {Y}}_{n}}$ майже напевно збігається до p.

Центральна гранична теорема є одним із видатних результатів математики.[12] Вона пояснює всюдисуще існування нормального розподілу в природі.

Теорема стверджує, що середнє багатьох незалежних і однаково розподілених випадкових величин із скінченною дисперсією прямує до нормального розподілу незалежно від розподілу, якому слідує початкова випадкова величина. Формально, нехай ${\displaystyle X_{1},X_{2},\dots \,}$ є незалежними випадковими величинами із середнім ${\displaystyle \mu }$ та дисперсією ${\displaystyle \sigma ^{2}>0.\,}$ Тоді послідовність випадкових величин

${\displaystyle Z_{n}={\frac {\sum _{i=1}^{n}(X_{i}-\mu )}{\sigma {\sqrt {n}}}}\,}$

збігається за розподілом до випадкової величини із стандартним нормальним розподілом.