Неокогнітрон

Неокогнітрон — згорткова ієрархічна, багатошарова штучна нейронна мережа, заснована на принципах навчання без учителя. Розроблена професором Фукусімою у 1980 році і являє собою подальший розвиток когнітрону.[1] Модель заснована на дослідах в галузі нейробіології і являє собою спрощену модель організації зорової кори ссавців. Некогонітрон має багаторічну історію, величезну кількість модифікацій мережі, значно поліпшуючих її можливості. Професор Фукусіма регулярно публікує нові розробки та доповнення мережі, що робить процес навчання та розпізнання ліпшим з року в рік.[2] Неокогнітрон пристосований для розпізнання візуальних даних, окрім того існують модифікації, які дозволяють навчатися з учителем через ручний вибір відповідних репрезентативних нейронів на клітинній площині, або менш популярний, через метод зворотного поширення помилки.

Будова неокогнітрону

Архітектура
Рецептивне поле. Кожний нейрон спостерігає за відповідною областю

Неокогнітрон складається з чергуючихся S (simple) — простих та C (complex) — комплексних (складних) шарів. Кожний шар, відповідно, містить певну кількість площин U нейронів та одну площину гальмуючих V нейронів. S нейрони виконують функцію розпізнання образів, C-нейрони — функцію неоднорідного периферійного розмивання. Кожен нейрон на площині має своє рецептивне поле, тобто спостерігає за визначеною областю.

В процесі навчання змінюються коефіцієнти a для кожного з Us-нейронів та b — для кожної Us-площини. Для комплексних нейронів, при ініціалізації, задаються коефіцієнти c та d, в залежності від модифікації неокогнітрону, які залишаються незмінними впродовж усього процесу навчання.

Різновиди неокогнітрону

За свою багаторічну історію неокогнітрон зазнавав багато змін і модифікацій. Так, наприклад, з'явилися:

  • Неокогнітрон з двома C-шарами.[3]
  • Неокогнітрон, навчання якого проходить через метод зворотного поширення помилки[4]
  • Неокогнітрон з селективною увагою у візуальному розпізнаванні образів і асоціативного відкликання.[5]

Посилання
  1. http://www.cs.princeton.edu/courses/archive/spr08/cos598B/Readings/Fukushima1980.pdf
  2. Архівована копія. Архів оригіналу за 14 липня 2014. Процитовано 6 липня 2014.
  3. Fukushima, K., Okada, M., Hiroshige, K.: Neocognitron with dual C-cell layers. ;Neural Networks(1994)41-47
  4. Neocognitron learning by backpropagation Volume 26, Issue 5, pages 19-28, 1995
  5. «Neural network model for selective attention in visual pattern recognition and associative recall», Applied Optics, 26[23], pp. 4985-4992 (Dec. 1987).

Див. також
This article is issued from Wikipedia. The text is licensed under Creative Commons - Attribution - Sharealike. Additional terms may apply for the media files.