Основы теории сетей связей

Основой нейронных сетей является искусственный нейрон, схема которого показана на рис. 3. Искусственный нейрон имеет следующую структуру.

Рис. 3. Искусственный нейрон.

- Входные сигналы х_i. Это данные, поступающие из окружающей среды или от других активных нейронов. Диапазон входных значений для различных моделей может отличаться. Обычно входные значения являются дискретными (бинарными) и определяются множествами {0,1} или {-1,1} либо принимают любые вещественные значения.

- Набор вещественных весовых коэффициентов w_i. Весовые коэффициенты определяют силу связи между нейронами.

- Уровень активации нейрона ΣW_iX_i, который определяется взвешенной суммой его входных сигналов.

- Пороговая функция f, предназначенная для вычисления выходного значения нейрона путем сравнения уровня активации с некоторым порогом. Пороговая функция определяет активное или неактивное состояние нейрона.

Текущее состояние нейрона определяется, как взвешенная сумма его входов:

Выход нейрона есть функция его состояния:

y = f(s).

Нелинейная функция f называется активационной и может иметь различный вид.

Таблица 1.

Рис.4 а) функция единичного скач­ка; б) линейный порог (гис­те­ре­зис);

в) сигмоид – гипербо­ли­ческий тангенс; г) сигмоид – фор­мула (3)

Одной из наиболее распространенных является нелинейная функция с насыщением, так называемая логистическая функция или сигмоид (т.е. функция S-образного вида):

При уменьшении a сигмоид становится более пологим, в пределе при a=0 вырождаясь в горизонтальную линию на уровне 0.5, при увеличении a сигмоид приближается по внешнему виду к функции единичного скачка с порогом T в точке x=0. Из выражения для сигмоида очевидно, что выходное значение нейрона лежит в диапазоне [0,1].

Помимо этих свойств отдельных нейронов, нейронная сеть также характеризуется следующими глобальными свойствами.

- Топология сети – это шаблон, определяющий наличие связей между отдельными нейронами. Топология является главным источником индуктивного порога.

- Используемый алгоритм обучения.

- Схема кодирования, определяющая интерпретацию данных в сети и результатов их обработки.