Нейронтипа WTA (Winner Takes All)

Нейроны типа WTA имеют входной модуль в виде стандартного сумматора, рассчитывающего сумму входящих сигналовс соответствующими весами . Выходной сигнал рассчитывается по формуле:

Группа конкурирующих между собой нейронов получает одни и те же входящие сигналы . В зависимости от фактических значения весовых коэффициентов суммарные сигналы отдельных нейронов могут отличаться. По результатам сравнения этих значений победителем признается нейрон, значение которого оказалось наибольшим. Нейрон-победитель вырабатывает на выходном значении 1, остальные 0.

Для обучения нейрона типа WTA не требуется учитель. Оно протекает аналогично обучению инстара с использованием нормализованных входящих вектором. На начальном этапа случайным образов выбираются весовые коэффициенты. После подачи первого входного вектора x определяется победитель этапа. Победивший в этом соревновании нейрон переходит в состояние 1, что позволяет ему произвести уточнение весов его входных линий по правилу Гроссберга. Проигравние нейроны формируют на своих выходах состояние 0, что блокирует процесс уточнения весовых коэффициентов.

Схема соединения нейронов типа WTA:

Рисунок 22Схема соединения нейронов WTA

Проблемы, возникающие при обучении:

Победителем этапа оказывается нейрон, вектор весов которого оказывается наиболее близким к текущему обучающему вектору x. В результате победы нейрона уточняются его весовые коэффициенты, значения которых приближаются к значениям текущего обучающего вектора x. Если на вход будет подаваться множество близких по значению векторов, побеждать будет один и тот же нейрон, поэтому его веса стану равными усредненному значениям тех векторов, благодаря которым нейрон стал победителем. Проигравшие нейроны не изменяют свои веса. Следствием такой конкуренции становится самоорганизация процесса обучения.

Проблемой при обучении нейронов типаWTA является проблема «мёртвых» нейронов, которые после инициализации ни одного раза не победили в конкурентной борьбе и остались в состоянии сформированном в начальный момент времени. Каждый мертвый нейрон уменьшает эффективное количество элементов, проходящих обучение, и увеличивает общую погрешность распознавания данных.

Для решения этой проблемы предлагается модифицированное обучение, основанное на учете побед каждого нейрона и временной дисквалификации тех, которые побеждали чаще всего. Она может осуществляться либо по достижении предельного числа побед, либо уменьшением фактического значения числа при нарастании числа побед нейрона.

08.10.2011