Электрическая активность нейрона.

Информативная деятельность нервных клеток связана с их электрической активностью и осуществляется на основе синаптического возбуждения, синаптического торможения и генерации нервных импульсов. Данные процессы базируются на специфических свойствах клеточной мембраны, разделяющей внутриклеточную и внеклеточную среду. Как та, так и другая среды содержат положительные ионы натрия, калия и других элементов.

Мембрана имеет толщину 5нм и состоит из двух молекулярных слоев, в которые встроены канальные белки, образующие шлюзы для ионов внутри и внеклеточной среды. Управление закрыванием или открыванием шлюзов осуществляется с помощью электрического, либо химического механизмов. Электрически управляемые белки (ЭУБ) расположены в основном на мембране аксона и частично сомы, а химически управляемые белки (ХУБ) расположены на мембранах дендритов и сомы. Кроме того, мембрана клетки пронизана белками, реализующими функцию ионного насоса (ИН).

Белки ИН постоянно выводят из клетки ионы натрия и вводят в нее ионы калия. Так, что вне клетки ионов натрия примерно в 10 раз больше, чем внутри нее, а ионов калия, наоборот, в клетке в 10 раз больше, чем вне ее. При таких концентрациях внутренний потенциал нейрона оказывается отрицательным и составляет – 70 мВ. В невозбужденном состоянии белки ионных насосов работают непрерывно при закрытых шлюзах. Потенциал покоя постоянен.

Если под влиянием внешних факторов внутренний потенциал повысится до некоторой пороговой величины, то расположенные у основания аксона (аксоном холмике) ЭУБ откроют свои шлюзы. Через них внутрь клетки начнут поступать в большом количестве положительные ионы натрия. Локальный внутренний потенциал аксона увеличивается и достигает положительных значений (+ 40 мВ). При таких значениях шлюзы положительных ионов натрия закрываются и открываются шлюзы положительных ионов калия. В локальной области увеличенного потенциала начинают уходить положительные ионы калия, потенциал снижается до исходной величины, шлюзы закрываются и ионный насос восстанавливает потенциал покоя.. Таким образом возникает электрический импульс, называемый спайком. Длительность импульса составляет примерно 3 мсек.

Возникнув в аксоном холмике, импульс вызывает последовательное открывание шлюзов следующего по ходу аксона участков мембраны, что приводит к его перемещению по мембране аксона вплоть до терминальных волокон (синаптических бляшек).

Нейрон получает сигналы (импульсы) от других нейронов через дендриты (приемники) и передает сигналы, сгенерированные телом клетки, вдоль аксона (передатчик), который в конце разветвляется на волокна На окончаниях этих волокон находятся синапсы .

Рис. 1Схема биологического нейрона.

Синапс является элементарной структурой и функциональным узлом между двумя нейронами (волокно аксона одного нейрона и дендрит другого). Когда импульс достигает синаптического окончания, высвобождаются определенные химические вещества, называемые нейротрансмиттерами (медиаторами). Молекулы медиатора диффундируют через щель и попадают на постсинаптическую мембрану дендрита или сомы следующего нейрона. Попав на мембрану медиатор открывает расположенные здесь каналы химически управляемых белков. Если синапс возбуждающий, то медиатор открывает каналы положительных ионов натрия, если тормозящий – калия. В первом случае ионы натрия поступают в клетку и возбуждают ее, смещая внутриклеточный потенциал в положительную область, во втором - ионы калия уходят из клетки и тормозят ее, смещая внутриклеточный потенциал в отрицательную область. Результативность синапса может настраиваться проходящими через него сигналами, так что синапсы могут обучаться в зависимости от активности процессов, в которых они участвуют. Эта зависимость от предыстории действует как память, которая, возможно, ответственна за память человека. В головном мозге человека 1 мм³ формирует независимую локальную сеть, несущую определенную функциональную нагрузку.

Нейроны взаимодействуют посредством короткой серии импульсов, как правило, продолжительностью несколько мсек. Сообщение передается посредством частотно-импульсной модуляции. Частота может изменяться от нескольких единиц до сотен герц, что в миллион раз медленнее, чем быстродействующие переключательные электронные схемы. Тем не менее, сложные решения по восприятию информации, как, например, распознавание лица, человек принимает за несколько сотен мс. Эти решения контролируются сетью нейронов, которые имеют скорость выполнения операций всего несколько мс. Это означает, что вычисления требуют не более 100 последовательных стадий. Другими словами, для таких сложных задач мозг "запускает" параллельные программы, содержащие около 100 шагов. Это известно как «правило ста шагов». Рассуждая аналогичным образом, можно обнаружить, что количество информации, посылаемое от одного нейрона другому, должно быть очень маленьким (несколько бит). Отсюда следует, что основная информация не передается непосредственно, а захватывается и распределяется в связях между нейронами.

ИСКУССТВЕННЫЕ НЕЙРОННЫЕ СЕТИ

Искусственная нейронная сеть – это набор нейронов, соединенных между собой. Как правило, активационная функция всех нейронов в сети фиксирована, а весв являются параметроами и могут изменяться. Некоторые входы нейронов помечены как внешние входы сети, а некоторые – как выходы – как выходы сети. Подавая любые числа на входы на выходе сети получаем какой-то набор чисел. пара Таким образом, работа нейронной сети состоит в преобразовании входного вектора Х в выходной вектор У, причем это преобразование задается весами сети

Например: алфавит русского языка содержит 33 буквы. Необходимо распознать буквы алфавита.

Дано: растровое черно-белое изображение букв размером 30х30 пикселов.

Задача для нейронной сети сформировать входной вектор из 900 двоичных символов, выходной вектор должен содержать 33 символа.

Подобно биологической нейронной системе ИНС является вычислительной системой с огромным числом параллельно функционирующих простых процессоров с множеством связей. Модели ИНС в некоторой степени воспроизводят "организационные" принципы, свойственные мозгу человека. Основу каждой НС составляют относительно простые, в большинстве случаев – однотипные, элементы (ячейки), имитирующие работу нейронов мозга. Далее под нейроном будет подразумеваться искусственный нейрон, то есть ячейка НС. Каждый нейрон характеризуется своим текущим состоянием по аналогии с нервными клетками головного мозга, которые могут быть возбуждены или заторможены. Нейрон — это элементарный преобразовательный элемент, имеющий непустое множество входов, на которые поступают сигналы х₁, х₂, …, х_n, суммирующий блок, блок преобразования сигнала с помощью активационной функции и и один выход У₀. Каждому входу приписан свой «вес» w_i (соответствующий «мере» биологической синаптической связи). Функционирует нейрон в два такта, на первом такте в суммирующем блоке вычисляется величина возбуждения полученного нейроном, которую удобно представлять в виде скалярного произведения вектора входных сигналов на вектор весов. На втором такте суммарное возбуждение пропускается через активационную (преобразующую) функцию F в результате чего получается выходной сигнал Y₀ = F(Y).

Он обладает группой синапсов – однонаправленных входных связей, соединенных с выходами других нейронов, а также имеет аксон – выходную связь данного нейрона, с которой сигнал (возбуждения или торможения) поступает на синапсы следующих нейронов. Общий вид нейрона приведен на рисунке 2.

Рис.2. Схема искусственного нейрона.

Каждый синапс характеризуется величиной синаптической связи или ее весом w_i, который по физическому смыслу эквивалентен электрической проводимости.

Текущее состояние нейрона определяется, как взвешенная сумма его входов:

Выход нейрона есть функция его состояния y = F(s) , которая может быть различной:

Рис.3 Виды функций активации а) функция единичного скач­ка; б) линейный порог (гис­те­ре­зис); в) сигмоид – гипербо­ли­ческий тангенс; г) сигмоид.

Рис.3 Виды функций активации а) функция единичного скач­ка; б) линейный порог (гис­те­ре­зис); в) сигмоид – гипербо­ли­ческий тангенс; г) сигмоид.

Нелинейнаяфункция F называется активационной и может иметь различный вид, как показано на рисунке 3. Одной из наиболее распространенных является нелинейная функция с насыщением, так называемая логистическая функция или сигмоид (т.е. функция S-образного вида):

При уменьшении a сигмоид становится более пологим, в пределе при a=0 вырождаясь в горизонтальную линию на уровне 0.5, при увеличении a сигмоид приближается по внешнему виду к функции единичного скачка с порогом T в точке x=0. Из выражения для сигмоида очевидно, что выходное значение нейрона лежит в диапазоне [0,1]. Одно из ценных свойств сигмоидной функции – простое выражение для ее производной.

Следует отметить, что сигмоидная функция дифференцируема на всей оси абсцисс, что используется в некоторых алгоритмах обучения. Кроме того, она обладает свойством усиливать слабые сигналы лучше, чем большие, и предотвращает насыщение от больших сигналов, так как они соответствуют областям аргументов, где сигмоид имеет пологий наклон.

МакКалок и Питтс доказали, что при соответствующем образом подобранных весах совокупность параллельно функционирующих нейронов подобного типа способна выполнять универсальные вычисления. Здесь наблюдается определенная аналогия с биологическим нейроном - передачу сигнала и взаимосвязи имитируют аксоны и дендриты, веса связей соответствуют синапсам, а пороговая функция отражает активность сомы.

ИНС может рассматриваться как направленный граф со взвешенными связями в котором искусственные нейроны являются узлами. По архитектуре связей ИНС могут быть сгруппированы в два класса (рис. 2): сети прямого распространения, в которых графы не имеют петель, и рекуррентные сети, или сети с обратными связями.