Модулярні нейронні мережі

Одна з основних переваг модулярних нейронних мереж полягає в здатності розбивати великі нейронні мережі на менші компоненти, якими легше оперувати[1] Деякі завдання є практично нерозв'язними для немодулярних нейронних мереж, не зважаючи на збільшення їх розміру.

Кількість зв'язків в нейронній мережі надзвичайно швидко зростає при додаванні нових нейронів. Оскільки обчислювальний час залежить від кількості нейронів і їх зв'язків, то будь-яке збільшення кількості нейронів призведе до значного збільшення обчислювального часу. Розділення завдання між субмережами у модулярній мережі призводить до того, що кожен модуль працює над частиною усього завдання, а не вся мережа намагається виконати глобальне завдання відразу, що є ефективнішим.

Велика нейронна мережа, що намагається змоделювати багато параметрів може страждати від інтерференції з новими даними, оскільки ці дані можуть сильно впливати на вже існуючі зв'язки, що збиватиме процес навчання мережі з ритму роботи. В модулярній нейронній мережі кожна субмережа прив'язана до певного типу завдання, що не призводить до спантеличення усієї мережі при надходженні нових даних. Крім того, навчальні дані, що використовуються для кожної підмережі, можуть бути унікальними, що призводить до більшої ефективності навчання.

Не залежно від того чи є нейронна мережа штучною чи природною, вона може бути чутливою до інтерференції, або втрати того чи іншого нейрону. Компартменталізуючи завдання, можна легко діагностувати інтерференцію або втрату нейронів і їх ефекти на інші підмережі усуваються, оскільки підмережі працюють незалежно.