Шуылы бар байланыс каналдары арқылы хабарламаны тасымалдағанда ақпараттық жоғалтулар

Кедергі болған жағдайда хабарлама ансамбліне қатысты қабылданған хабарлама ансамблінде орналасқан орташа ақпарат саны (немесе шуылы бар канал бойынша бір символмен таралатын орташа ақпарат саны) келесідей анықталады:

а) бірігу энтропияның көмегімен:

(2.13)

б) шартты энтропияны пайдалану арқылы:

(2.14)

Өрнектің мағынасы келесідей: шамасы – ол қайнар көздің энтропиясы, ал шамасы – каналдағы қатенің нәтижесінде жоғалған орташа ақпарат саны.

(2.15)

(2.13)-(2.14) формулалардан қорытылған келесі формулаларды пайдалану ыңғайлы:

(2.16)

Қорытынды: Ақпарат артықшылығы дегеніміз ақпараттың максималды мүмкін саны мен энтропия арасындағы айырмашылық. Тәжірибе жүзінде ақпарат көзінің мүмкін жағдайларының жиынтығы континуум, яғни үздіксіз қайнар көздерді құрайды.

Дәрісте пайдаланылатын слайд:Ақпаратты өлшеу

Негізгі әдебиет: [1-4]; Қосымша әдебиет: [1-3];

Бақылау сұрақтары:

1. Ақпарат саны түсінігі мен энтропия өзара қалай байланысқан?

2. Артықшылық түсінігін анықтаңыз.

3. бірдейемес ықтималдылық символдарынан тұратын хабарламадағы ақпарат санын анықтаңыз.

4. Дифференциалды энтропияға анықтама беріңіз және оның негізгі қасиеттерін тұжырымдаңыз.

5. Қандай үлестірулер максималды дифференциалды энтропияға ие:

а) кездейсоқ шаманың өзгеру диапазонына шектеу болғанда?

б) кездейсоқ шаманың дисперсиясына шектеу болғанда?

6.Эпсилон-энтропия кездейсоқ шаманың маңыздылығы қандай?

7. Туындаудың ақиқаттылығының орташаквадраттық критериін сипаттаңыз.

8. Біріктіру энтропиясының көмегімен жіберілген хабарламаға қатысты, қабылданған хабарламадағы ансамбльге тиісті кедергі жағдайындағы ақпараттың орташа санын анықтау.

9. Шартты энтропия көмегімен жіберілген хабарламаға қатысты, қабылданған хабарлама ансамбліне тиісті орташа ақпарат санын кедергі жағдайында анықтау.

10. Шуылы бар байланыс каналдары бойынша хабарламаны тасымалдағанда ақпараттық жоғалтулар қалай анықталады?

Дәріс №3

Тақырыбы: Ақпаратты тасымалдау жылдамдығы және байланыс каналдарының өткізгіштік қабілеті.

Дәріс мақсаты: Жылдамдықты өткізу салыстырмаларына анықтаулар жүргізу

Қарастырылатын негізгі сөздер: ақпаратты тасымалдау жылдамдығы, байланыс каналдары,

Қарастырылатын сұрақтар:

-Ақпаратты тасымалдау жылдамдығы

-Байланыс каналдарының өткізгіштік қабілеті