Гіпотеза компактності

Якщо припустити, що в процесі навчання простір ознак формується виходячи із задуманої класифікації, то тоді можна сподіватися, що завдання простору ознак саме по собі задає властивість, під дією якої образи в цьому просторі легко розділяються. Саме ці надії в міру розвитку робіт в області розпізнавання образів стимулювали появу гіпотези компактності, яка стверджує: образам відповідають компактні множини в просторі ознак. Під компактною множиною поки будемо розуміти "згусток" точок у просторі зображень, припускаючи, що між цими згустками існують поділяючі їх розрідження.

Однак цю гіпотезу не завжди вдавалося підтвердити експериментально, але, що найголовніше, ті завдання, у рамках яких гіпотеза компактності добре виконувалась (рис. 2а), усі без винятку знаходили просте рішення. І навпаки, ті завдання, для яких гіпотеза не підтверджувалася (рис. 2б), або зовсім не вирішувалися, або вирішувалися з великими труднощами із залученням додаткових хитрощів. Цей факт змусив щонайменше засумніватися в справедливості гіпотези компактності, тому що для спростування будь-якої гіпотези досить одного прикладу, який її заперечує. Разом із цим, виконання гіпотези всюди там, де вдавалося добре вирішити завдання навчання розпізнаванню образів, зберігало до цієї гіпотези інтерес. Сама гіпотеза компактності перетворилася в ознаку можливості задовільного рішення завдань розпізнавання.

Формулювання гіпотези компактності підводить впритул до поняття абстрактного образу. Якщо координати простору вибирати випадково, то й зображення в ньому будуть розподілені випадково. Вони будуть у деяких частинах простору розташовуватися більш щільно, ніж в інших. Назвемо деякий випадково обраний простір абстрактним зображенням. У цьому абстрактному просторі майже напевно будуть існувати компактні множини точок. Тому відповідно до гіпотези компактності множини об'єктів, яким в абстрактному просторі відповідають компактні множини точок, розумно назвати абстрактними образами даного простору.