Геббова теорія

Геббова теорія розглядає, як нейрони могли би з'єднуватися між собою, щоби ставати енграмами. Геббові теорії про вигляд та дію ансамблів клітин можна зрозуміти з наступного: «Загальна ідея є старою, що будь-які дві клітини або системи клітин, які повторювано бувають збудженими в один і той самий час, схильні ставати „пов'язаними“ так, що збудженість в одній полегшує збудження іншої.»[1]^:70 Він також писав: «Коли одна клітина повторювано допомагає збуджувати іншу, то аксон першої клітини розвиває синаптичні булавоподібні розширення (або збільшує їх, якщо вони вже існують) у контакті з сомою другої клітини.»[1]^:63

Гордон Олпорт постулює додаткові ідеї стосовно теорії ансамблів клітин і її ролі в формуванні енграм в напрямку поняття авто-асоціювання (англ. auto-association), описані наступним чином:

Якщо входи до системи призводять до повторюваного трапляння однієї й тієї ж картини збудження, то набір збуджених елементів, що складають цю картину, ставатиме все сильніше взаємопов'язаним. Тобто, кожен елемент буде схильним вмикати будь-який інший елемент і (з від'ємними вагами) вимикати елементи, які не формують частину цієї картини. Іншими словами, картина в цілому стає «авто-асоційованою». Ми можемо назвати навчену (авто-асоційовану) картиною енграмою[4]^:44

Оригінальний текст (англ.)

If the inputs to a system cause the same pattern of activity to occur repeatedly, the set of active elements constituting that pattern will become increasingly strongly interassociated. That is, each element will tend to turn on every other element and (with negative weights) to turn off the elements that do not form part of the pattern. To put it another way, the pattern as a whole will become 'auto-associated'. We may call a learned (auto-associated) pattern an engram.

Геббова теорія була головною основою звичайного погляду, що, при аналізі на холістичному рівні, енграми є нейронними мережами.

Праця в лабораторії Еріка Кендела забезпечила свідчення залученості геббових механізмів навчання в синапсах морського черевоногого Aplysia californica.

Експерименти з геббових механізмів зміни синапсів у синапсах центральної нервової системи хребетних є набагато складнішими для керування, ніж експерименти з простими синапсами периферичної нервової системи, що досліджувалися в морських безхребетних. Більшість роботи з довготривалими синаптичними змінами між нейронами хребетних (такими як довготривала потенціація) включає використання не фізіологічного експериментального стимулювання клітин мозку. Проте деякі з фізіологічно відповідних механізмів зміни синапсів, що досліджувалися в мозку хребетних, видаються прикладами геббових процесів. Одне з таких досліджень^[яке?] є оглядом результатів експериментів, які вказують, що довготривалі зміни синаптичної сили може бути викликано фізіологічно відповідною синаптичною активністю, яка працює як за геббовими, так і за не-геббовими механізмами.

З погляду штучних нейронів та штучних нейронних мереж, геббів принцип може бути описано як метод визначення, як змінювати ваги між нейронами моделі. Вага між двома нейронами збільшується, якщо ці два нейрони активуються одночасно, і зменшується, якщо вони активуються окремо. Вузли, які схильні бути або обидва позитивними, або обидва негативними одночасно, мають сильні позитивні ваги, тоді як ті, що схильні бути протилежними, мають сильні негативні ваги.

Наступне є стереотипним описом геббового навчання: (зауважте, що можливі й багато інших описів)

${\displaystyle \,w_{ij}=x_{i}x_{j}}$

де ${\displaystyle w_{ij}}$ є вагою з'єднання від нейрону ${\displaystyle j}$ до нейрону ${\displaystyle i}$, а ${\displaystyle x_{i}}$ є входом нейрону ${\displaystyle i}$. Зауважте, що це є навчанням шаблонів (ваги оновлюються після кожного тренувального зразка). В мережі Хопфілда з'єднання ${\displaystyle w_{ij}}$ встановлюють в нуль, якщо ${\displaystyle i=j}$ (рефлективні з'єднання не допускаються). За двійкових нейронів (збудження або 0, або 1) з'єднання встановлюватимуться в 1, якщо з'єднані нейрони мають однакове збудження для якогось шаблону.

Іншим стереотипним описом є:

${\displaystyle w_{ij}={\frac {1}{p}}\sum _{k=1}^{p}x_{i}^{k}x_{j}^{k},\,}$

де ${\displaystyle w_{ij}}$ є вагою з'єднання від нейрону ${\displaystyle j}$ до нейрону ${\displaystyle i}$, ${\displaystyle p}$ є числом тренувальних шаблонів, а ${\displaystyle x_{i}^{k}}$ — ${\displaystyle k}$-тим входом до нейрону ${\displaystyle i}$. Це є навчанням епохами (ваги оновлюються після представлення всіх навчальних прикладів). Знов-таки, в мережі Хопфілда з'єднання ${\displaystyle w_{ij}}$ встановлюють в нуль, якщо ${\displaystyle i=j}$ (рефлективних з'єднань немає).

Різновидом геббового навчання, яке враховує таке явище, як блокування, та багато інших явищ нейронного навчання, є математична модель Гаррі Клопфа (англ. Harry Klopf).[5] Модель Клопфа відтворює дуже багато біологічних явищ, а також є простою для втілення.

Правило Гебба часто узагальнюють як

${\displaystyle \,\Delta w_{i}=\eta x_{i}y,}$

або зміна в ${\displaystyle i}$-тій синаптичній вазі ${\displaystyle w_{i}}$ дорівнює добуткові темпу навчання ${\displaystyle \eta }$ та ${\displaystyle i}$-того входу ${\displaystyle x_{i}}$ та постсинаптичного відгуку ${\displaystyle y}$. Часто згадують випадок лінійного нейрону,

${\displaystyle \,y=\sum _{j}w_{j}x_{j},}$

а спрощення з попереднього розділу покладає як темп навчання, так і входові ваги рівними 1. Ця версія правила є явно нестійкою, оскільки в будь-якій мережі з переважним сигналом синаптичні ваги збільшуватимуться або зменшуватимуться експоненційно. Проте, може бути показано, що правило Гебба є нестійким для будь-якої моделі нейрона.[6] Тому мережеві моделі нейронів зазвичай застосовують інші теорії навчання, такі як теорія БКМ, правило Оя[7] або узагальнений геббів алгоритм.

Незважаючи на загальне використання геббових моделей для довготривалої потенціації, існує декілька винятків з геббових принципів, і прикладів, які показують, що деякі аспекти цієї теорії є надто спрощеними. Один із найкраще документованих із цих винятків стосується того, що синаптична зміна відбувається не просто між двома збудженими нейронами A та B, але й між сусідніми нейронами також.[8] Це пов'язано з тим, як геббова зміна залежить від ретроградної сигналізації для зміни пресинаптичного нейрона.[9] Сполукою, яку найчастіше ідентифікують як виконався ролі цього ретроградного передавача, є монооксид азоту, який, завдяки своїй високій розчинності та дифузійній рухливості, часто впливає на прилеглі нейрони.[10] Цей тип дифузної синаптичної зміни, відомий як об'ємне навчання (англ. volume learning), протистоїть, або щонайменше доповнює, традиційну геббову модель.[11]

Геббове навчання та пластичність, залежну від часу спайків, використовували у впливовій теорії того, як виникають дзеркальні нейрони.[12][13] Дзеркальні нейрони — це нейрони, які спрацьовують як тоді, коли особа виконує якусь дію, так і тоді, коли особа бачить[14] або чує,[15] як інша особа виконує подібну дію. Відкриття цих нейронів справило великий вплив на пояснення того, як особи розуміють дії інших, показавши, що коли особа сприймає дії інших, то вона активує моторні програми, які вона використовувала би для виконання подібних дій. Активування цих моторних програм додає інформацію до сприйняття, і допомагає передбачати, що особа робитиме далі на основі власних моторних програм того, хто сприймає. Виклик полягав у тому, щоби пояснити, як особи приходять до володіння нейронами, які реагують як при виконанні дії, так і коли особа чує або бачить, як інша виконує подібні дії.

Крістіан Кейзерз та Девід Перретт припустили, що, коли особа виконує певну дію, то вона бачитиме, чутиме й відчуватиме, як вона виконує цю дію. Ці зворотно-доцентрові сенсо́рні сигнали викликатимуть збудження в нейронах, які відповідають за бачення, чуття та відчуття цієї дії. Оскільки збудження цих нейронів систематично перекриватиметься в часі з тими моторними нейронами, які спричинили цю дію, то геббове навчання передбачатиме, що синапси, які з'єднують нейрони, що відповідають за бачення, чуття та відчуття дії, та нейрони, що активують цю дію, повинні посилюватися. Це ж вірно й тоді, коли люди дивляться на себе в дзеркало, чують власне белькотання, або коли їх імітують інші. Після повторюваного досвіду цієї зворотної доцентровості синапси, які з'єднують сенсорні та моторні представлення дії, будуть настільки сильними, що моторні нейрони починатимуть спрацьовувати на звук чи зображення цієї дії, і буде створено дзеркальний нейрон.

Докази цієї точки зору виходять з багатьох експериментів, які показують, що моторні програми може бути активовано новими слуховими або зоровими стимулами після після повторюваного спаровування цих стимулів із виконанням моторної програми (огляд цих доказів див. у Джудіче та ін., 2009 р.[16]). Наприклад, люди, які ніколи не грали на фортепіано, не активують ділянки мозку, які залучаються до гри на фортепіано, коли слухають фортепіанну музику. П'яти годин уроків фортепіано, в яких учасник піддається впливу звуку фортепіано кожного разу, як натискає клавішу, достатньо для пізнішого спрацьовування збудження в моторних областях мозку при прослуховуванні фортепіанної музики.[17] Відповідно до того факту, що пластичність, залежна від часу спайків, має місце лише якщо спрацьовування пресинаптичного нейрона передує спрацьовуванню постсинаптичного нейрона,[18] зв'язок між сенсорними стимулами та моторними програмами, схоже, також посилюється лише якщо цей стимул обумовлено моторною програмою.

• Принцип Дейла
• Виявляння збігів у нейробіології
• Leabra
• Метапластичність
• Тетанічне стимулювання
• Синаптотропічна гіпотеза
• Нейропластичність

• Hebb, D.O. (1961). Distinctive features of learning in the higher animal. У J. F. Delafresnaye (Ed.). Brain Mechanisms and Learning. London: Oxford University Press. (англ.)
• Hebb, D. O. (1940). Human Behavior After Extensive Bilateral Removal from the Frontal Lobes. Archives of Neurology and Psychiatry 44 (2): 421–438. doi:10.1001/archneurpsyc.1940.02280080181011. (англ.)
• Bishop, C.M. (1995). Neural Networks for Pattern Recognition. Oxford: Oxford University Press. ISBN 0-19-853849-9. (англ.)
• Paulsen, O.; Sejnowski, T. J. (2000). Natural patterns of activity and long-term synaptic plasticity. Current Opinion in Neurobiology 10 (2): 172–179. PMC 2900254. PMID 10753798. doi:10.1016/S0959-4388(00)00076-3. (англ.)

• Огляд (англ.)
• Hebbian Learning tutorial (Part 1: Novelty Filtering, Part 2: PCA) (англ.)