НМ з радіальними базисними елементами

НМ з радіальними базисними елементами (Radial Basis Function Network (RBF)) являє собою двошарову мережу без зворотних зв'язків, що містить прихований шар радіально-симетричних прихованих нейронів (шаблонний шар). Для того щоб шаблонний шар був радіально-симетричним, необхідне виконання наступних умов:

- наявність центра, зображеного у вигляді вектора у вхідному вимірі; звичайно цей вектор зберігається в просторі ваг від вхідного шару до шару шаблонів;

- наявність способу виміру відстані вхідного вектора від центра; зазвичай це стандартна евклідова відстань;

- наявність спеціальної функції проходження одного аргумен­ту, котра визначає вихідний сигнал нейрона шляхом відображення функції відстані; зазвичай використається функція Ґаусса .

Тобто вихідний сигнал шаблонного нейрона – це функція від відстані між вхідним вектором X і центром С: .

Вихідний шар мережі є лінійним, при цьому виходи мережі визначають за наступним виразом:

де С - центри; - відхилення радіальних елементів.

Навчання RBF-мережі відбувається декількома етапами:

- спочатку визначаються центри й відхилення для радіальних елементів;

- після цього оптимізуються параметри лінійного вихідного шару.

Можуть бути побудовані різні гібридні різновиди мереж з радіальними базисними функціями. Наприклад, вихідний шар може мати нелінійні функції активації, тоді для його навчання використовується який-небудь із алгоритмів навчання багатошарових мереж, наприклад метод зворотного поширення.

RBF-мережі мають ряд переваг перед багатошаровими мережами прямого поширення:

- вони моделюють довільну нелінійну функцію за допомогою одного проміжного шару, позбавляючи необхідності вирішувати питання про число шарів;

- параметри лінійної комбіна­ції у вихідному шарі можна повністю оптимізувати за допомогою добре відомих методів лінійної оптимізації, які швидко працюють і не викликають труднощів з локальними мінімумами, що так заважають під час навчання з використанням алгоритму зворотного поширення помилки, тому RBF-мережа навчається дуже швидко (на порядок швидше, ніж з використанням алгорит­му зворотного поширення).

Недоліки RBF-мереж полягають у тому, що вони мають погані екстраполюючі властивості й виходять досить громіздкими при великій розмірності вектора входів.