Нейронна машина Тюрінга

Нейро́нні маши́ни Тю́рінга (НМТ, англ. Neural Turing machines, NTMs) поєднують можливості нечіткого зіставлення зі зразками нейронних мереж з алгоритмічною потужністю програмованих комп'ютерів. НМТ має нейромережевий контролер, зв'язаний з ресурсами зовнішньої пам'яті, з якими він взаємодіє за допомогою процесів зосередження уваги. Взаємодія з пам'яттю є диференційовною з краю в край, що уможливлює оптимізацію за допомогою градієнтного спуску.[1] НМТ з контролером на основі мережі довгої короткочасної пам'яті (ДКЧП) може виводити прості алгоритми, такі як копіювання, впорядкування та асоціативне пригадування на основі зразків входу та виходу.[2]

Вони можуть виводити алгоритми з самих лише прикладів входів та виходів.

Диференційовні нейрокомп'ютери є результатом розвитку нейронних машин Тюрінга, з механізмами зосередження уваги, які керують активністю пам'яті, та покращеною продуктивністю.[3]

Див. також

Примітки

  1. Deep Minds: An Interview with Google's Alex Graves & Koray Kavukcuoglu. Процитовано 17 травня 2016. (англ.)
  2. Graves, Alex; Wayne, Greg; Danihelka, Ivo (2014). «Neural Turing Machines». arXiv:1410.5401 [cs.NE]. (англ.)
  3. Administrator. DeepMind's Differentiable Neural Network Thinks Deeply. www.i-programmer.info. Процитовано 20 жовтня 2016. (англ.)
This article is issued from Wikipedia. The text is licensed under Creative Commons - Attribution - Sharealike. Additional terms may apply for the media files.