Нейронна машина Тюрінга
Нейро́нні маши́ни Тю́рінга (НМТ, англ. Neural Turing machines, NTMs) поєднують можливості нечіткого зіставлення зі зразками нейронних мереж з алгоритмічною потужністю програмованих комп'ютерів. НМТ має нейромережевий контролер, зв'язаний з ресурсами зовнішньої пам'яті, з якими він взаємодіє за допомогою процесів зосередження уваги. Взаємодія з пам'яттю є диференційовною з краю в край, що уможливлює оптимізацію за допомогою градієнтного спуску.[1] НМТ з контролером на основі мережі довгої короткочасної пам'яті (ДКЧП) може виводити прості алгоритми, такі як копіювання, впорядкування та асоціативне пригадування на основі зразків входу та виходу.[2]
Машини Тюрінга |
---|
Машина |
|
Варіанти |
|
Науковці |
Вони можуть виводити алгоритми з самих лише прикладів входів та виходів.
Диференційовні нейрокомп'ютери є результатом розвитку нейронних машин Тюрінга, з механізмами зосередження уваги, які керують активністю пам'яті, та покращеною продуктивністю.[3]
Див. також
- Рекурентна нейронна мережа
- Алекс Ґрейвс (інформатик)
Примітки
- Deep Minds: An Interview with Google's Alex Graves & Koray Kavukcuoglu. Процитовано 17 травня 2016. (англ.)
- Graves, Alex; Wayne, Greg; Danihelka, Ivo (2014). «Neural Turing Machines». arXiv:1410.5401 [cs.NE]. (англ.)
- Administrator. DeepMind's Differentiable Neural Network Thinks Deeply. www.i-programmer.info. Процитовано 20 жовтня 2016. (англ.)