Баєсове програмування

Задачею опису є визначення ефективного методу обчислення спільного розподілу ймовірності набору змінних ${\displaystyle \left\{X_{1},X_{2},\cdots ,X_{N}\right\}}$ для заданого набору експериментальних даних ${\displaystyle \delta }$ та деякого визначення ${\displaystyle \pi }$. Цей спільний розподіл позначається як ${\displaystyle P\left(X_{1}\wedge X_{2}\wedge \cdots \wedge X_{N}\mid \delta \wedge \pi \right)}$.

Для визначення попереднього знання ${\displaystyle \pi }$ програміст мусить виконати наступне:

1. Визначити набір доречних змінних ${\displaystyle \left\{X_{1},X_{2},\cdots ,X_{N}\right\}}$, на якому визначено спільний розподіл імовірності.
2. Розкласти спільний розподіл (розбити його на доречні незалежні або умовні ймовірності).
3. Визначити форми кожного з цих розподілів (наприклад, для кожної змінної, один з переліку розподілів імовірності).

Для даного поділу ${\displaystyle \left\{X_{1},X_{2},\ldots ,X_{N}\right\}}$, що містить ${\displaystyle K}$ підмножин, визначаються ${\displaystyle K}$ змінних ${\displaystyle L_{1},\cdots ,L_{K}}$, кожна з яких відповідає одній з цих підмножин. Кожна змінна ${\displaystyle L_{k}}$ отримується як кон'юнкція змінних ${\displaystyle \left\{X_{k_{1}},X_{k_{2}},\cdots \right\}}$, що належать до ${\displaystyle k}$-тої підмножини. Рекурсивне застосування теореми Баєса веде до

${\displaystyle {\begin{aligned}&P\left(X_{1}\wedge X_{2}\wedge \cdots \wedge X_{N}\mid \delta \wedge \pi \right)\\={}&P\left(L_{1}\wedge \cdots \wedge L_{K}\mid \delta \wedge \pi \right)\\={}&P\left(L_{1}\mid \delta \wedge \pi \right)\times P\left(L_{2}\mid L_{1}\wedge \delta \wedge \pi \right)\times \cdots \times P\left(L_{K}\mid L_{K-1}\wedge \cdots \wedge L_{1}\wedge \delta \wedge \pi \right)\end{aligned}}}$

Потім гіпотези умовної незалежності дозволяють подальші спрощення. Гіпотеза умовної незалежності для змінної ${\displaystyle L_{k}}$ визначається вибором деякої змінної ${\displaystyle X_{n}}$ серед змінних, присутніх у кон'юнкції ${\displaystyle L_{k-1}\wedge \cdots \wedge L_{2}\wedge L_{1}}$, позначенням через ${\displaystyle R_{k}}$ кон'юнкції цих обраних змінних, і встановленням

${\displaystyle P\left(L_{k}\mid L_{k-1}\wedge \cdots \wedge L_{1}\wedge \delta \wedge \pi \right)=P\left(L_{k}\mid R_{k}\wedge \delta \wedge \pi \right)}$

Потім ми отримуємо

${\displaystyle {\begin{aligned}&P\left(X_{1}\wedge X_{2}\wedge \cdots \wedge X_{N}\mid \delta \wedge \pi \right)\\={}&P\left(L_{1}\mid \delta \wedge \pi \right)\times P\left(L_{2}\mid R_{2}\wedge \delta \wedge \pi \right)\times \cdots \times P\left(L_{K}\mid R_{K}\wedge \delta \wedge \pi \right)\end{aligned}}}$

Таке спрощення спільного розподілу як добутку простіших розподілів називається розкладом, виведеним із застосуванням ланцюгового правила.

Воно забезпечує, щоби кожна змінна з'являлася ліворуч від риски обумовлювання не менше одного разу, що є необхідною і достатньою умовою написання математично вірних розкладів.^{[джерело?]}

Кожен розподіл ${\displaystyle P\left(L_{k}\mid R_{k}\wedge \delta \wedge \pi \right)}$, що з'являється в добутку, потім пов'язується або з параметричною формою (тобто, функцією ${\displaystyle f_{\mu }\left(L_{k}\right)}$), або з питанням до іншої баєсової програми ${\displaystyle P\left(L_{k}\mid R_{k}\wedge \delta \wedge \pi \right)=P\left(L\mid R\wedge {\widehat {\delta }}\wedge {\widehat {\pi }}\right)}$.

Коли це форма ${\displaystyle f_{\mu }\left(L_{k}\right)}$, в загальному випадку ${\displaystyle \mu }$ є вектором параметрів, що можуть залежати або від ${\displaystyle R_{k}}$, або ${\displaystyle \delta }$, або від обох. Коли деякі з цих параметрів обчислюються із застосуванням набору даних ${\displaystyle \delta }$, відбувається навчання.

Важливою особливістю баєсового програмування є ця здатність використовувати питання до інших баєсових програм як складову визначення нової баєсової програми. ${\displaystyle P\left(L_{k}\mid R_{k}\wedge \delta \wedge \pi \right)}$ отримується деяким висновуванням, що здійснюється іншою баєсовою програмою, визначеною визначенням ${\displaystyle {\widehat {\pi }}}$ та даними ${\displaystyle {\widehat {\delta }}}$. Це є схожим на виклик підпрограми в класичному програмуванні, й пропонує простий простий спосіб побудови ієрархічних моделей.

Для даного опису (тобто, ${\displaystyle P\left(X_{1}\wedge X_{2}\wedge \cdots \wedge X_{N}\mid \delta \wedge \pi \right)}$) питання отримується поділом ${\displaystyle \left\{X_{1},X_{2},\cdots ,X_{N}\right\}}$ на три набори: досліджувані (англ. searched) змінні, відомі (англ. known) змінні та вільні (англ. free) змінні.

Три змінні ${\displaystyle Searched}$, ${\displaystyle Known}$ та ${\displaystyle Free}$ визначаються як кон'юнкція змінних, що належать до цих наборів.

Питання визначається як набір розподілів

${\displaystyle P\left(Searched\mid {\text{Known}}\wedge \delta \wedge \pi \right)}$

зроблений з багатьох «конкретизованих питань» як кардинал ${\displaystyle Known}$, де кожне конкретизоване питання є розподілом

${\displaystyle P\left({\text{Searched}}\mid {\text{Known}}\wedge \delta \wedge \pi \right)}$

Для заданого спільного розподілу ${\displaystyle P\left(X_{1}\wedge X_{2}\wedge \cdots \wedge X_{N}\mid \delta \wedge \pi \right)}$ завжди можливо обчислити будь-яке можливе питання, застосовуючи наступне загальне висновування:

${\displaystyle {\begin{aligned}&P\left({\text{Searched}}\mid {\text{Known}}\wedge \delta \wedge \pi \right)\\={}&\sum _{\text{Free}}\left[P\left({\text{Searched}}\wedge {\text{Free}}\mid {\text{Known}}\wedge \delta \wedge \pi \right)\right]\\={}&{\frac {\displaystyle \sum _{\text{Free}}\left[P\left({\text{Searched}}\wedge {\text{Free}}\wedge {\text{Known}}\mid \delta \wedge \pi \right)\right]}{\displaystyle P\left({\text{Known}}\mid \delta \wedge \pi \right)}}\\={}&{\frac {\displaystyle \sum _{\text{Free}}\left[P\left({\text{Searched}}\wedge {\text{Free}}\wedge {\text{Known}}\mid \delta \wedge \pi \right)\right]}{\displaystyle \sum _{{\text{Free}}\wedge {\text{Searched}}}\left[P\left({\text{Searched}}\wedge {\text{Free}}\wedge {\text{Known}}\mid \delta \wedge \pi \right)\right]}}\\={}&{\frac {1}{Z}}\times \sum _{\text{Free}}\left[P\left({\text{Searched}}\wedge {\text{Free}}\wedge {\text{Known}}\mid \delta \wedge \pi \right)\right]\end{aligned}}}$

де перше рівняння випливає з правила відособлення, друге випливає з теореми Баєса, а третє відповідає другому застосуванню відособлення. Знаменник виявляється нормувальним членом, і його може бути замінено сталою ${\displaystyle Z}$.

Теоретично це дозволяє розв'язувати будь-які задачі баєсового висновування. Проте на практиці майже в усіх випадках витратність вичерпного та точного обчислення ${\displaystyle P\left({\text{Searched}}\mid {\text{Known}}\wedge \delta \wedge \pi \right)}$ є занадто високою.

Заміною спільного розподілу його розкладом ми отримуємо

${\displaystyle {\begin{aligned}&P\left({\text{Searched}}\mid {\text{Known}}\wedge \delta \wedge \pi \right)\\={}&{\frac {1}{Z}}\sum _{\text{Free}}\left[\prod _{k=1}^{K}\left[P\left(L_{i}\mid K_{i}\wedge \pi \right)\right]\right]\end{aligned}}}$

що зазвичай є виразом, значно простішим для обчислення, оскільки розмірність задачі значно знижено шляхом розкладу на добуток розподілів меншої розмірності.

Метою баєсового фільтрування спаму є усування сміттєвих електронних листів.

Ця задача є дуже простою для формулювання. Електронні листи повинні класифікуватися до однієї з двох категорій: не-спам та спам. Єдиною доступною інформацією для класифікації електронних листів є їхній вміст: набір слів. Використання цих слів без взяття до уваги їхнього порядку часто називають моделлю «торба слів».

Крім того, класифікатор повинен бути здатним адаптуватися до свого користувача та вчитися з досвіду. Починаючи зі стандартного початкового налаштування, класифікатор повинен змінювати свої внутрішні параметри, коли користувач не погоджується з його власним рішенням. Він, отже, адаптуватиметься до користувачевих критеріїв розрізнення між не-спамом та спамом. Він покращуватиме власні результати, стикаючись з більшою кількістю класифікованих електронних листів.

Змінні, необхідні для написання цієї програми, є такими:

1. ${\displaystyle Spam}$: двійкова змінна, хибна (англ. false), якщо електронний лист не є спамом, та істинна (англ. true) в іншому разі.
2. ${\displaystyle W_{0},W_{1},\ldots ,W_{N-1}}$: ${\displaystyle N}$ двійкових змінних. ${\displaystyle W_{n}}$ є істинною, якщо ${\displaystyle n}$-те слово словника присутнє в тексті.

Ці ${\displaystyle N+1}$ двійкових змінних підсумовують всю інформацію про електронний лист.

Починаючи зі спільного розподілу і застосовуючи рекурсивно теорему Баєса, ми отримуємо:

${\displaystyle {\begin{aligned}&P({\text{Spam}}\wedge W_{0}\wedge \cdots \wedge W_{N-1})\\={}&P({\text{Spam}})\times P(W_{0}\mid {\text{Spam}})\times P(W_{1}\mid {\text{Spam}}\wedge W_{0})\\&\times \cdots \\&\times P\left(W_{N-1}\mid {\text{Spam}}\wedge W_{0}\wedge \cdots \wedge W_{N-2}\right)\end{aligned}}}$

Це є точним математичним виразом.

Його може бути радикально спрощено шляхом припущення, що ймовірність появи слова при відомій природі тексту (спам чи ні) є незалежною від появи інших слів. Це є наївним баєсовим припущенням, і воно робить цей фільтр спаму наївною баєсовою моделлю.

Наприклад, програміст може припустити, що

${\displaystyle P(W_{1}\mid {\text{Spam}}\land W_{0})=P(W_{1}\mid {\text{Spam}})}$

щоби врешті отримати

${\displaystyle P({\text{Spam}}\land W_{0}\land \ldots \land W_{N-1})=P({\text{Spam}})\prod _{n=0}^{N-1}[P(W_{n}\mid {\text{Spam}})]}$

Цей вид припущення відомий як наївне баєсове припущення. Воно є «наївним» у тому сенсі, що незалежність між словами явно є не зовсім вірною. Наприклад, воно повністю нехтує тим, що поява пари слів може бути суттєвішою та ізольовані появи. Проте програміст може прийняти цю гіпотезу, і може розробити модель та пов'язані висновування, щоби перевірити, наскільки надійною та ефективною вона є.

Щоби мати можливість обчислити спільний розподіл, програміст тепер мусить вказати ${\displaystyle N+1}$ розподілів, присутніх у розкладі:

1. ${\displaystyle P({\text{Spam}})}$ є визначеним апріорно, наприклад, як ${\displaystyle P([{\text{Spam}}=1])=0.75}$
2. Кожну з ${\displaystyle N}$ форм ${\displaystyle P(W_{n}\mid {\text{Spam}})}$ може бути вказано з використанням правила наслідування Лапласа (це методика згладжування на базі псевдолічильників для подолання проблеми нульової частоти досі ніколи не бачених слів):
   1. ${\displaystyle P(W_{n}\mid [{\text{Spam}}={\text{false}}])={\frac {1+a_{f}^{n}}{2+a_{f}}}}$
   2. ${\displaystyle P(W_{n}\mid [{\text{Spam}}={\text{true}}])={\frac {1+a_{t}^{n}}{2+a_{t}}}}$

де ${\displaystyle a_{f}^{n}}$ відповідає кількості появ ${\displaystyle n}$-того слова в не-спамових електронних листах, а ${\displaystyle a_{f}}$ відповідає загальній кількості не-спамових електронних листів. Аналогічно, ${\displaystyle a_{t}^{n}}$ відповідає кількості появ ${\displaystyle n}$-того слова в спамових електронних листах, а ${\displaystyle a_{t}}$ відповідає загальній кількості спамових електронних листів.

${\displaystyle N}$ форм ${\displaystyle P(W_{n}\mid {\text{Spam}})}$ визначено ще не повністю, оскільки ${\displaystyle 2N+2}$ параметрів ${\displaystyle a_{f}^{n=0,\ldots ,N-1}}$, ${\displaystyle a_{t}^{n=0,\ldots ,N-1}}$, ${\displaystyle a_{f}}$ та ${\displaystyle a_{t}}$ ще не мають значень.

Ідентифікацію цих параметрів може бути здійснено або пакетною обробкою комплектів класифікованих електронних листів, або послідовним уточненням параметрів із використанням класифікації електронних листів користувачем у процесі їхнього надходження.

Обидва методи може бути об'єднано: система може стартувати з початковими стандартними значеннями цих параметрів, виданих з узагальненої бази даних, а потім певне послідовне навчання підганяє класифікатор під кожного окремого користувача.

Питанням, що задається програмі, є «якою є ймовірність того, що даний текст є спамом, якщо відомо, які слова в ньому присутні, а які — ні?» Його може бути формалізовано як

${\displaystyle P({\text{Spam}}\mid w_{0}\wedge \cdots \wedge w_{N-1})}$

що може бути обчислено наступним чином:

${\displaystyle {\begin{aligned}&P({\text{Spam}}\mid w_{0}\wedge \cdots \wedge w_{N-1})\\={}&{\frac {\displaystyle P({\text{Spam}})\prod _{n=0}^{N-1}[P(w_{n}\mid {\text{Spam}})]}{\displaystyle \sum _{\text{Spam}}[P({\text{Spam}})\prod _{n=0}^{N-1}[P(w_{n}\mid {\text{Spam}})]]}}\end{aligned}}}$

Знаменник виявляється сталою нормалізації. Його не обов'язково обчислювати для того, щоби з'ясувати, чи ми маємо справу зі спамом. Наприклад, простий прийом для обчислення відношення:

${\displaystyle {\begin{aligned}&{\frac {P([{\text{Spam}}={\text{true}}]\mid w_{0}\wedge \cdots \wedge w_{N-1})}{P([{\text{Spam}}={\text{false}}]\mid w_{0}\wedge \cdots \wedge w_{N-1})}}\\={}&{\frac {P([{\text{Spam}}={\text{true}}])}{P([{\text{Spam}}={\text{false}}])}}\times \prod _{n=0}^{N-1}\left[{\frac {P(w_{n}\mid [{\text{Spam}}={\text{true}}])}{P(w_{n}\mid [{\text{Spam}}={\text{false}}])}}\right]\end{aligned}}}$

Таке обчислення є швидшим та простішим, оскільки воно вимагає лише ${\displaystyle 2N}$ добутків.

Програма баєсового фільтра спаму визначається повністю як

${\displaystyle \Pr {\begin{cases}Ds{\begin{cases}Sp(\pi ){\begin{cases}Va:{\text{Spam}},W_{0},W_{1}\ldots W_{N-1}\\Dc:{\begin{cases}P({\text{Spam}}\land W_{0}\land \ldots \land W_{n}\land \ldots \land W_{N-1})\\=P({\text{Spam}})\prod _{n=0}^{N-1}P(W_{n}\mid {\text{Spam}})\end{cases}}\\Fo:{\begin{cases}P({\text{Spam}}):{\begin{cases}P([{\text{Spam}}={\text{false}}])=0.25\\P([{\text{Spam}}={\text{true}}])=0.75\end{cases}}\\P(W_{n}\mid {\text{Spam}}):{\begin{cases}P(W_{n}\mid [{\text{Spam}}={\text{false}}])\\={\frac {1+a_{f}^{n}}{2+a_{f}}}\\P(W_{n}\mid [{\text{Spam}}={\text{true}}])\\={\frac {1+a_{t}^{n}}{2+a_{t}}}\end{cases}}\\\end{cases}}\\\end{cases}}\\{\text{Identification (based on }}\delta )\end{cases}}\\Qu:P({\text{Spam}}\mid w_{0}\land \ldots \land w_{n}\land \ldots \land w_{N-1})\end{cases}}}$

Баєсові фільтри (що часто називають рекурсивною баєсовою оцінкою) є загальними ймовірнісними моделями для процесів, що розгортаються в часі. Численні моделі є окремими випадками цього загального підходу, наприклад, фільтр Калмана, або прихована марковська модель.

• Змінні ${\displaystyle S^{0},\ldots ,S^{T}}$ є часовим рядом змінних стану, що розглядаються на часовому горизонті в діапазоні від ${\displaystyle 0}$ до ${\displaystyle T}$.
• Змінні ${\displaystyle O^{0},\ldots ,O^{T}}$ є часовим рядом змінних спостережень на цьому ж горизонті.

Розклад ґрунтується:

• на ${\displaystyle P(S^{t}\mid S^{t-1})}$, що називається моделлю системи, моделлю переходу або динамічною моделлю, яка формалізує перехід від стану в момент часу ${\displaystyle t-1}$ до стану в момент часу ${\displaystyle t}$;
• на ${\displaystyle P(O^{t}\mid S^{t})}$, що називається моделлю спостереження, яка виражає, що може спостерігатися в момент часу ${\displaystyle t}$, коли система знаходиться в стані ${\displaystyle S^{t}}$;
• на початковому стані в момент часу ${\displaystyle 0}$: ${\displaystyle P(S^{0}\wedge O^{0})}$.

Параметричні моделі не обмежено, й різні варіанти ведуть до різних добре відомих моделей: див. фільтри Калмана та приховані марковські моделі трохи нижче.

Питанням, яке зазвичай ставлять цим моделям, є ${\displaystyle P\left(S^{t+k}\mid O^{0}\wedge \cdots \wedge O^{t}\right)}$: яким є розподіл імовірності стану в момент часу ${\displaystyle t+k}$ за відомих спостережень від моменту ${\displaystyle 0}$ до ${\displaystyle t}$?

Найпоширенішим випадком є баєсове фільтрування, в якому ${\displaystyle k=0}$, що означає, що з'ясовується поточний стан за відомих попередніх спостережень.

Проте можливо також здійснювати й передбачення ${\displaystyle (k>0)}$, коли робиться спроба екстраполяції майбутнього стану з минулих спостережень, або здійснювати згладжування ${\displaystyle (k<0)}$, коли робиться спроба відновлення минулого стану зі спостережень, зроблених або до, або після того моменту.

Також можуть ставитися й дещо складніші питання, як показано нижче у розділі ПММ.

Баєсові фільтри ${\displaystyle (k=0)}$ мають дуже цікаву рекурсивну властивість, що значно сприяє їхній привабливості. ${\displaystyle P\left(S^{t}|O^{0}\wedge \cdots \wedge O^{t}\right)}$ може бути обчислено просто з ${\displaystyle P\left(S^{t1}\mid O^{0}\wedge \cdots \wedge O^{t-1}\right)}$ за наступною формулою:

${\displaystyle {\begin{array}{ll}&P\left(S^{t}|O^{0}\wedge \cdots \wedge O^{t}\right)\\=&P\left(O^{t}|S^{t}\right)\times \sum _{S^{t-1}}\left[P\left(S^{t}|S^{t-1}\right)\times P\left(S^{t-1}|O^{0}\wedge \cdots \wedge O^{t-1}\right)\right]\end{array}}}$

Іншою цікавою точкою зору стосовно цього рівняння є розгляд існування двох фаз: фази передбачення та фази уточнення:

• Протягом фази передбачення стан передбачується із застосуванням динамічної моделі та оцінки стану в попередній момент:

${\displaystyle {\begin{array}{ll}&P\left(S^{t}|O^{0}\wedge \cdots \wedge O^{t-1}\right)\\=&\sum _{S^{t-1}}\left[P\left(S^{t}|S^{t-1}\right)\times P\left(S^{t-1}|O^{0}\wedge \cdots \wedge O^{t-1}\right)\right]\end{array}}}$

• Протягом фази уточнення, передбачення або підтверджується, або визнається недійсним із застосуванням крайнього спостереження:

${\displaystyle {\begin{aligned}&P\left(S^{t}\mid O^{0}\wedge \cdots \wedge O^{t}\right)\\={}&P\left(O^{t}\mid S^{t}\right)\times P\left(S^{t}|O^{0}\wedge \cdots \wedge O^{t-1}\right)\end{aligned}}}$

${\displaystyle Pr{\begin{cases}Ds{\begin{cases}Sp(\pi ){\begin{cases}Va:\\S^{0},\cdots ,S^{T},O^{0},\cdots ,O^{T}\\Dc:\\{\begin{cases}&P\left(S^{0}\wedge \cdots \wedge S^{T}\wedge O^{0}\wedge \cdots \wedge O^{T}|\pi \right)\\=&P\left(S^{0}\wedge O^{0}\right)\times \prod _{t=1}^{T}\left[P\left(S^{t}|S^{t-1}\right)\times P\left(O^{t}|S^{t}\right)\right]\end{cases}}\\Fo:\\{\begin{cases}P\left(S^{0}\wedge O^{0}\right)\\P\left(S^{t}|S^{t-1}\right)\\P\left(O^{t}|S^{t}\right)\end{cases}}\end{cases}}\\Id\end{cases}}\\Qu:\\{\begin{cases}{\begin{array}{l}P\left(S^{t+k}|O^{0}\wedge \cdots \wedge O^{t}\right)\\\left(k=0\right)\equiv {\text{Filtering}}\\\left(k>0\right)\equiv {\text{Prediction}}\\\left(k<0\right)\equiv {\text{Smoothing}}\end{array}}\end{cases}}\end{cases}}}$

Добре відомі фільтри Калмана[3] є окремим випадком баєсових фільтрів.

Вони визначаються наступною баєсовою програмою:

${\displaystyle Pr{\begin{cases}Ds{\begin{cases}Sp(\pi ){\begin{cases}Va:\\S^{0},\cdots ,S^{T},O^{0},\cdots ,O^{T}\\Dc:\\{\begin{cases}&P\left(S^{0}\wedge \cdots \wedge O^{T}|\pi \right)\\=&\left[{\begin{array}{c}P\left(S^{0}\wedge O^{0}|\pi \right)\\\prod _{t=1}^{T}\left[P\left(S^{t}|S^{t-1}\wedge \pi \right)\times P\left(O^{t}|S^{t}\wedge \pi \right)\right]\end{array}}\right]\end{cases}}\\Fo:\\{\begin{cases}P\left(S^{t}\mid S^{t-1}\wedge \pi \right)\equiv G\left(S^{t},A\bullet S^{t-1},Q\right)\\P\left(O^{t}\mid S^{t}\wedge \pi \right)\equiv G\left(O^{t},H\bullet S^{t},R\right)\end{cases}}\end{cases}}\\Id\end{cases}}\\Qu:\\P\left(S^{T}\mid O^{0}\wedge \cdots \wedge O^{T}\wedge \pi \right)\end{cases}}}$

• Змінні є неперервними.
• Моделі переходу ${\displaystyle P(S^{t}\mid S^{t-1}\wedge \pi )}$ та спостереження ${\displaystyle P(O^{t}\mid S^{t}\wedge \pi )}$ обидві визначаються із застосуванням Гаусових законів із середніми значеннями, що є лінійними функціями обумовлювальних змінних.

З цими гіпотезами та із застосуванням рекурсивної формули задачу висновування для отримання відповіді на звичайне питання ${\displaystyle P(S^{T}\mid O^{0}\wedge \cdots \wedge O^{T}\wedge \pi )}$ можна розв'язувати аналітично. Це веде до надзвичайно ефективного алгоритму, що пояснює популярність фільтрів Калмана та численність їхніх повсякденних застосувань.

Коли очевидних лінійних моделей переходу та спостереження немає, часто все ще можливо, застосовуючи розклад Тейлора першого порядку, трактувати ці моделі як локально лінійні. Це узагальнення зазвичай називають розширеним фільтром Калмана.

Приховані марковські моделі (ПММ) є іншою дуже популярною спеціалізацією фільтрів Калмана.

Вони визначаються наступною баєсовою програмою:

${\displaystyle \Pr {\begin{cases}Ds{\begin{cases}Sp(\pi ){\begin{cases}Va:\\S^{0},\ldots ,S^{T},O^{0},\ldots ,O^{T}\\Dc:\\{\begin{cases}&P\left(S^{0}\wedge \cdots \wedge O^{T}\mid \pi \right)\\=&\left[{\begin{array}{c}P\left(S^{0}\wedge O^{0}\mid \pi \right)\\\prod _{t=1}^{T}\left[P\left(S^{t}\mid S^{t-1}\wedge \pi \right)\times P\left(O^{t}\mid S^{t}\wedge \pi \right)\right]\end{array}}\right]\end{cases}}\\Fo:\\{\begin{cases}P\left(S^{0}\wedge O^{0}\mid \pi \right)\equiv {\text{Matrix}}\\P\left(S^{t}\mid S^{t-1}\wedge \pi \right)\equiv {\text{Matrix}}\\P\left(O^{t}\mid S^{t}\wedge \pi \right)\equiv {\text{Matrix}}\end{cases}}\end{cases}}\\Id\end{cases}}\\Qu:\\\max _{S^{1}\wedge \cdots \wedge S^{T-1}}\left[P\left(S^{1}\wedge \cdots \wedge S^{T-1}\mid S^{T}\wedge O^{0}\wedge \cdots \wedge O^{T}\wedge \pi \right)\right]\end{cases}}}$

• Змінні розглядаються як дискретні.
• Моделі переходу ${\displaystyle P\left(S^{t}\mid S^{t-1}\wedge \pi \right)}$ та спостереження ${\displaystyle P\left(O^{t}\mid S^{t}\wedge \pi \right)}$ обидві визначаються із застосуванням матриць імовірностей.
• Питання, що найчастіше ставлять прихованим марковським моделям:

${\displaystyle \max _{S^{1}\wedge \cdots \wedge S^{T-1}}\left[P\left(S^{1}\wedge \cdots \wedge S^{T-1}\mid S^{T}\wedge O^{0}\wedge \cdots \wedge O^{T}\wedge \pi \right)\right]}$

Якою є найімовірніша послідовність станів, що веде до поточного стану за відомих минулих спостережень?

Відповідь на дане окреме питання можна отримувати за допомогою особливого та дуже ефективного алгоритму, що називається алгоритмом Вітербі.

Для ПММ також було розроблено особливий алгоритм навчання, що називається Алгоритм Баума — Велша.

Протягом останніх 15 років підхід баєсового програмування застосовувався в багатьох університетах для розробки як застосувань у робототехніці, так і моделей в науках про життя.[4]

В робототехніці баєсове програмування застосовувалося в автономній робототехніці,[5][6][7][8][9] роботизованих САПР,[10] передових системам допомоги водієві,[11] роботизованому керуванні маніпуляторами, мобільній робототехніці,[12][13] людино-роботній взаємодії,[14] людино-автомобільній взаємодії (баєсові автономні моделі водія),[15][16][17][18][19][20] програмуванні та навчанні аватарів у відеоіграх[21] та в стратегічних іграх реального часу (ШІ).[22]

В науках про життя баєсове програмування застосовувалося в баченні для відтворення структури з руху,[23] для моделювання зорово-вестибулярної взаємодії[24] та дослідження саккадного руху очей;[25] у сприйнятті мовлення та володіння ним для дослідження раннього надбання мовлення[26] та появи артикулярно-акустичних систем;[27] та для моделювання сприйняття рукописного тексту та володіння ним.[28]