Обучение ИНС и обучающие алгоритмы.
ИНС обучается из своего опыта. Обычный процесс обучения включает три задачи:
1. Вычислить выходы.
2. Сравнить выходы с желаемыми целями.
3. Регулировать веса и повторить процесс.
Процесс обучения начинается с установления весов, как некотором правилам, так и случайно. Разница между действительным выходом (Y или Yt) и желаемым выходом (Z) для данного набора входов является ошибкой, называемой «дельта».
Целью является минимизировать дельту (или лучше, уменьшить ее до 0).
Уменьшение дельты выполняется изменением весов. Важно изменять веса в правильном направлении, деля изменения, которые действительно уменьшают дельту.
Обработка информации ИНС состоит в попытке распознать образцы деятельности (распознавание образов). В процессе стадий обучения взаимосвязанные веса меняются в ответ на обучающие данные, представленные системе.
Различные ИНС вычисляют дельту различными способами, в зависимости от используемых обучающих алгоритмов.
Для различных ситуаций и конфигураций разработаны несколько десятков обучающих алгоритмов.
В таблице 6.3. представлены наиболее известные обучающие алгоритмы и связанные с ними архитектуры сетей (список не является исчерпывающим). В последней колонке перечислены задачи, для которых может быть применен каждый алгоритм. Каждый алгоритм обучения ориентирован на сеть определенной архитектуры и предназначен для ограниченного класса задач.
Дадим краткие характеристики типов архитектур ИНС и некоторых обучающих алгоритмов.
Таблица 6.3
Известные алгоритмы обучения.
| Парадигма | Обучающее правило | Архитектура | Алгоритм обучения | Задача |
| С учителем | Коррекция ошибки | Однослойный и многослойный перцептрон | Алгоритмы обучения перцептрона Обратное распространение Adaline и Madaline | Классификация образов Аппроксимация функций Предскащание, управление |
| Больцман | Рекуррентная | Алгоритм обучения Больцмана | Классификация образов | |
| Хебб | Многослойная прямого распространения | Линейный дискриминантный анализ | Анализ данных Классификация образов | |
| Соревнование | Соревнование | Векторное квантование | Категоризация внутри класса Сжатие данных | |
| Сеть ART | ARTMap | Классификация образов | ||
| Без учителя | Коррекция ошибки | Многослойная прямого распространения | Проекция Саммона | Категоризация внутри класса Анализ данных |
| Хебб | Прямого распространения или соревнование | Анализ главных компонентов | Анализ данных Сжатие данных | |
| Сеть Хопфилда | Обучение ассоциативной памяти | Ассоциативная память | ||
| Соревнование | Соревнование | Векторное квантование | Категоризация Сжатие данных | |
| SOM Кохонена | SOM Кохонена | Категоризация Анализ данных | ||
| Сети ART | ART1, ART2 | Категоризация | ||
| Смешанная | Коррекция ошибки и соревнование | Сеть RBF | Алгоритм обучения RBF | Классификация образов Аппроксимация функций Предсказание, управление |
Дата добавления: 2017-02-20; просмотров: 694;