1.2.2. Двунаправленная ассоциативная память (ДАП)
ДАП относится к гетероассоциативной памяти. Входной вектор поступает на один набор нейронов, а -соответствующий выходной вектор вырабатывается на другом наборе нейронов. Входные образы ассоциируются с выходными.
Для сравнения: сеть Хопфилда является автоассоциативной. Входной образ может быть восстановлен или исправлен сетью, но не может быть ассоциирован с другим образом. В сети Хопфилда используется одноуровневая структура ассоциативной памяти, в которой выходной вектор появляется на выходе тех же нейронов, на которые поступает входной вектор. ДАЛ; как и сеть Хопфилда, способна к обобщению,. вырабатывая правильные выходные сигналы, несмотря на искаженные входы.
Входной вектор Л обрабатывается матрицей весов W сети, в результате чего вырабатывается вектор выходных сигналов сети В. Вектор В затем обрабатывается транспонированной матрицей W* весов сети, которая вырабатывает сигналы, представляющие новый входной вектор А. Этот процесс повторяется до тех пор, пока сеть не достигнет стабильного состояния, в котором ни вектор А, ни вектор В не изменяются. Нейроны в слоях 1 и 2 функционируют, как и в других парадигмах, - вычисляя сумму взвешенных входов и вычисляя по ней значение функции активации F. В качестве функции активации используется экспоненциальная сигмоида..
Слой 0 не производит вычислений и не имеет памяти. Он является только средством распределения выходных сигналов слоя 2 к элементам матрицы W3". Весовая матрица вычисляется как сумма произведений всех векторных пар обучающей выборки.
Системы с обратной связью имеют тенденцию к колебаниям. Они могут переходить от состояния к состоянию, никогда не достигая стабильности. Доказано, что ДАЛ безусловно стабильна при любых значениях весов сети.
Области применения: ассоциативная память, распознавание образов. Емкость ДАЛ жестко ограничена. Если п - количество нейронов в меньшем слое «=1024, то сеть способна запомнить не более 25 образов. ДАЛ обладает некоторой непредсказуемостью в процессе функционирования, возможны ложные ответы.По сравнению с автоассоциативной памятью (например, сетью Хопфилда), двунаправленная ассоциативная память дает возможность строить ассоциации между векторами А и В, которые в общем случае имеют разные размерности. За счет таких возможностей гетероассоциативная память имеет более широкий класс приложений, чем автоассоциативная память. ДАП - простая сеть, которая может быть реализована в виде электронного чипа или оптоэлектронным способом. Процесс формирования синаптических весов простой и быстрый. Сеть быстро сходится в процессе функционирования. Существуют различные модификации.. Была предложена негомогенная двунаправленная ассоциативная память, в которой пороговые значения подбираются отдельно для каждого нейрона. (В исходной модели ДАП все нейроны имеют нулевые пороговые значения.) Емкость негомогенной сети выше, чем исходной модели. Сигналы в сети могут быть как дискретными, так и непрерывными. Для обоих случаев доказана стабильность сети. Были предложены модели двунаправленной ассоциативной памяти с обучением без учителя (адаптивная ДАП).
Введение латеральных связей внутри слоя дает возможность реализовать конкурирующую ДАП. Веса связей формируют матрицу с положительными значениями элементов главной диагонали и отрицательными значениями остальных элементов. Теорема Кохена- Гроссберга показывает, что такая сеть является стабильной. Источники: [3], [60], [100], [101], [102].