Доречно-векторна машина

У математиці, доре́чно-ве́кторна маши́на (ДВМ, англ. Relevance Vector Machine, RVM) — це методика машинного навчання, яка використовує баєсове висновування для отримання ощадливих розв'язків для регресії та ймовірнісної класифікації.[1] ДВМ має однаковий функційний вигляд з опорно-векторною машиною, але забезпечує ймовірнісну класифікацію.

Частина з циклу
Машинне навчання та добування даних
Задачі класифікація кластерування регресія виявляння аномалій очищування даних АвтоМН асоціативні правила навчання з підкріпленням структурове передбачування конструювання ознак навчання ознак інтерактивне навчання напівавтоматичне навчання спонтанне навчання навчання ранжуванню виведення граматик
Кероване навчання (класифікація • регресія) ансамблі випадковий ліс натяжкове агрегування підсилювання дерева рішень доречно-векторна машина k-НС лінійна регресія логістична регресія наївне баєсове опорно-векторна машина штучні нейронні мережі перцептрон
Кластерування BIRCH CURE ієрархічне k-середніх очікування-максимізація DBSCAN OPTICS зсув середнього
Знижування розмірності факторний аналіз метод незалежних компонент канонічна кореляція лінійний розділювальний аналіз метод головних компонент власний узагальнений розклад розклад невід'ємних матриць t-розподілене вкладення стохастичної близькості
Структурове передбачування графові моделі баєсова мережа прихована марковська модель умовне випадкове поле
Виявляння аномалій k-НС коефіцієнт локального відхилення
Штучна нейронна мережа автокодувальник когнітивні обчислення глибинне навчання DeepDream багатошаровий перцептрон рекурентна нейронна мережа ДКЧП ВРВ МВС обмежена машина Больцмана ГЗМ самоорганізаційне відображення згорткова нейронна мережа U-Net трансформер спайкова нейронна мережа мемтранзистор Електрохімічна ПДД (ECRAM)
Навчання з підкріпленням Q-навчання SARSA метод часових різниць
Теорія Компроміс зсуву та дисперсії ймовірносно приблизно коректне навчання мінімізація емпіричного ризику оккамове навчання статистичне навчання теорія Вапника — Червоненкіса теорія обчислювального навчання
Місця машинного навчання NeurIPS ICML ML JMLR ArXiv:cs.LG
Пов'язані статті глосарій штучного інтелекту список наборів даних для досліджень з машинного навчання перелік понять машинного навчання

Вона фактично рівнозначна моделі ґаусового процесу з функцією коваріації

${\displaystyle k(\mathbf {x} ,\mathbf {x'} )=\sum _{j=1}^{N}{\frac {1}{\alpha _{j}}}\varphi (\mathbf {x} ,\mathbf {x} _{j})\varphi (\mathbf {x} ',\mathbf {x} _{j})}$

де ${\displaystyle \varphi }$ є ядровою функцією (зазвичай ґаусовою), ${\displaystyle \alpha _{j}}$ є дисперсіями апріорних значень елементів вектора вагових коефіцієнтів ${\displaystyle w\sim N(0,\alpha ^{-1}I)}$, а ${\displaystyle \mathbf {x} _{1},\ldots ,\mathbf {x} _{N}}$ є вхідними векторами тренувального набору.[2]

У порівнянні з опорно-векторними машинами (ОВМ, англ. support vector machines, SVM), баєсове формулювання ДВМ уникає набору вільних параметрів, як в ОВМ (які зазвичай вимагають післяоптимізацій на основі перехресної перевірки). Проте ДВМ використовують метод навчання, подібний до очікування-максимізації, і відтак схильні до ризику локальних мінімумів. Це відрізняється від стандартних алгоритмів на основі послідовної мінімальної оптимізації (ПМО), що використовують ОВМ, які гарантують знаходження глобального оптимуму (для опуклої задачі).

Доречно-векторну машину запатентовано у США компанією Microsoft.[3]