Свёрточные нейронные сети
В основе сверточной нейронной сети лежат идеи, предложенные Jle Куном и Бенджио [58]:
локальные рецепторные поля (обеспечивают локальную двумерную связность нейронов);
общие синапсы (обеспечивают детектирование некоторых черт в любом месте изображения и уменьшают общее число весовых коэффициентов);
иерархическая организация с пространственными под выборками.
Свёрточная нейронная сеть обеспечивает частичную устойчивость к изменениям масштаба, смещениям, поворотам, смене ракурса и прочим искажениям.
Рис.
1.7. Архитектура сверточной нейронной сетиАрхитектура сверточной нейронной сети, состоит из многих слоев. Слои бывают двух типов: свёрточные и подвыборочные, свёрточные и подвыбороч- ные слои чередуются друг с другом.
Нейроны в пределах слоя организованы в плоскости. В каждом слое имеется набор из нескольких плоскостей, причём нейроны одной плоскости имеют одинаковые синаптические коэффициенты, ведущие ко всем локальным участкам предыдущего слоя (как в зрительной коре человека), изображение предыдущего слоя как бы сканируется небольшим окном и пропускается сквозь набор синаптических коэффициентов, а результат отображается на соответствующий нейрон текущего слоя. Таким образом, набор плоскостей представляет собой карты характеристик и каждая плоскость находит «свои» участки изображения в любом месте предыдущего слоя.
Каждый нейрон в плоскости свёрточного слоя получает свои входы от некоторой области предыдущего слоя (локальное рецептивное поле), то есть входное изображение предыдущего слоя сканируется небольшим окном и пропускается сквозь набор весов, а результат отображается на соответствующий нейрон свёрточного слоя.
Подвыборочный слой уменьшает масштаб плоскостей путём локального усреднения значений выходов нейронов. Таким образом, достигается иерархическая организация. Последующие слои извлекают более общие характеристики, меньше зависящие от искажений изображения.
Для обучения свёрточных нейронных сетей может применяться как стандартный метод обратного распространения ошибки, так и его различные модификации.
Свёрточные нейронные сети применяются для распознавания человека по изображению лица [59], распознавания рукописных символов [57]. 1.