Биологический прототип

Развитие искусственных нейронных сетей вдохновляется биологией. Рассматривая сетевые конфигурации и алгоритмы, исследователи мыслят их в терминах организации мозговой деятельности.

Несмотря на то, что связь с биологией слаба и зачастую несущественна, искусственные нейронные сети продолжают сравниваться с мозгом. Их функционирование часто напоминает человеческое познание, поэтому трудно избежать этой аналогии.

Нервная система человека, построенная из элементов, называемых нейронами, имеет ошеломляющую сложность. Около 10¹¹ нейронов участвуют в примерно 10¹⁵ передающих связях, имеющих длину метр и более. Каждый нейрон обладает многими качествами, общими с другими элементами тела, но его уникальной способностью является прием, обработка и передача электрохимических сигналов по нервным путям, которые образуют коммуникационную систему мозга.

Рис. 1. Биологический нейрон

На рис. 1 показана структура пары типичных биологических нейронов. Схематическое представление нейрона состоит из клетки, которая имеет множество разветвленных отростков, называемых дендритами, и одну ветвь – аксон. Дендриты принимают сигналы от других нейронов. Когда сумма этих импульсов превышает некоторую границу, нейрон сам возбуждается, и импульс, или «сигнал», проходит по аксону. Разветвления на конце аксона образуют синапсы с дендритами других нейронов. Синапс – это точка контакта между нейронами. Синапсы могут быть возбуждающими или тормозящими, в зависимости от того, увеличивают ли они результирующий сигнал.

Такое описание нейрона необычайно просто, но оно передает основные черты, существенные в нейронных вычислительных моделях. В частности, каждый вычислительный элемент подсчитывает значение некоторой функции своих входов и передает результат к присоединенным к нему элементам сети. Конечные результаты являются следствием параллельной и распределенной обработки в сети, образованной нейронными соединениями и пороговыми значениями.

Широкий круг задач, решаемый НС, не позволяет в настоящее время создавать универсальные, мощные сети, вынуждая разрабатывать специализированные НС, функционирующие по различным алгоритмам.

Несмотря на существенные различия, отдельные типы НС обладают несколькими общими чертами.

Рис.2 Искусственный нейрон

Во-первых, основу каждой НС составляют относительно простые, в большинстве случаев – однотипные, элементы (ячейки), имитирующие работу нейронов мозга. Далее под нейроном будет подразумеваться искусственный нейрон, то есть ячейка НС. Каждый нейрон характеризуется своим текущим состоянием по аналогии с нервными клетками головного мозга, которые могут быть возбуждены или заторможены. Он обладает группой синапсов – однонаправленных входных связей, соединенных с выходами других нейронов, а также имеет аксон – выходную связь данного нейрона, с которой сигнал (возбуждения или торможения) поступает на синапсы следующих нейронов. Общий вид нейрона приведен на рисунке 2. Каждый синапс характеризуется величиной синаптической связи или ее весом w_i, который по физическому смыслу эквивалентен электрической проводимости.

Сети связей выполняют параллельную и распределенную обработку информации, однако при этом символы не рассматриваются как символы. Входная информация из предметной области преобразуется в числовые векторы. Связи между элементами или нейронами тоже представляются числовыми значениями. И, наконец, преобразование образов - это результат числовых операций, как правило, векторно-матричного умножения. Выбранная архитектура сети составляет индуктивный порог системы.

Алгоритмы и архитектуры, реализующие этот подход, не предполагают явного программирования. Они просто выбираются для обучения сети. В этом и состоит основное преимущество такого подхода: инвариантные свойства входной информации выявляются за счет выбора соответствующей архитектуры и метода обучения. При этом могут появляться "странные" аттракторы. Но явное программирование здесь не требуется. Именно таким системам посвящена данная глава.

Сети связей лучше всего подходят для решения следующих задач.

- Классификация – определение категории или группы, к которой принадлежат входные значения.

- Распознавание образов – идентификация структуры или шаблона данных.

- Реализация памяти, в том числе задача контекстной адресации памяти.

- Прогнозирование, например, диагностика болезни по ее симптомам, определение следствий на основе известных причин.

- Оптимизация – поиск наилучшей структуры ограничений.

- Фильтрация – выделение полезного сигнала из фонового шума, отбрасывание несущественных компонентов сигнала.