<<
>>

2.2. Самонастраивающаяся нейронная сеть радиально базисного типа.

Как отмечено выше, достоинством нейронных сетей радиально-базисного типа является быстрая обучаемость по сравнению с многослойными персептронами, а основным недостатком - необходимость в большом числе нейронов в скрытом слое, что как следствие, ведет к более медленному функционированию сети.
В этой связи мы предложили новый тип нейросети, ориентированный на решение задачи классификации, самонастраивающейся в процессе обучения, сохраняя при этом идею метрической подхода, но отказываясь от использования гауссовой активационной функции. Такая самонастраивающаяся радиально-базисная нейронная сеть (СНРБ-сеть), предназначена для решения задачи классификации и позволяет сохранить достоинство RBF-сетей к быстрому обучению, но избежать их вышеотмеченных недостатков. Первая из модификаций, позволяющая увеличить скорость функционирования сети - это замена гауссовой функции активации нейрона на пороговую.

Описанный ниже алгоритм обучения СНРБ-сети, позволяет существенно сократить количество нейронов в скрытом промежуточном слое, что также увеличивает скорость работы сети.

Обучение сети одновременно является и процессом построения её самой, поскольку в результате процесса определяются не только значения: синаптических весов нейронов, но и количество нейронов в слоях и даже количество слоев. Результирующая комбинация состоит из трех или четырех слоев нейронов (или то же самое, двух или трех слоев синаптических весов) в зависимости от обучения, и может быть дополнена слоем реализующем метод главных компонент, в зависимости от типа данных в задаче.

Существует функциональное разделение слоев сети. Первый слой нейронов не производит реальных вычислений, являясь по существу точками ветвления входных данных. Второй слой нейронов является ключевым в работе сети, он производит деление пространства данных на решающие области. Совокупность выходных значений нейронов второго слоя - это своеобразный идентификатор решающей области, т.е. для каждой из них: набор выходов должен быть уникальным, что и является требованием корректного обучения слоя. Вопрос отображения выходного вектора в вектор идентифицирующий класс, согласно поставленной задаче обучения, решается следующим одним или двумя слоями. За такой вектор можно принять единичный вектор с единственным отличным от нуля элементом, позиция которого соответствует номеру класса, к которому относится входной образец.

При обучении сети каждый из слоев обучается отдельно. Более того, каждый нейрон слоя обучается отдельно.

<< | >>
Источник: Стадник Алексей Викторович. Использование искусственных нейронных сетей и вейвлет-анализа для повышения эффективности в задачах распознавания и классификации. 2004

Еще по теме 2.2. Самонастраивающаяся нейронная сеть радиально базисного типа.: