Сабақ Дискреттiк хабарлар шығу көзiнің және тарату жүйесiнiң сипаттамалары

1.1 Ақпараттың санын, шығу көзінің энтропиясын, өнiмдiлiгiн, артықты-лығын анықтау.

1.2 Модуляция жылдамдығын, ақпаратты тарату жылдамдығын, арнаның өткiзгiштiк қабiлеттілігiн (бөгеттi және бөгетсiз арналардың) анықтау.

1.3 Әр түрлі жағдайдағы модуляция жылдамдығы мен ақпаратты тарату жылдамдығының арасындағы арақатынасы.

14 Тарату дұрыстығы мен бөгеттерге орнықтылығы деген түсiнiктерi.
Дискреттiк хабарлар шығу көзiнің сипаттамалары.

Шығу көзі өзінің ішінде немесе хабарларды, немесе белгілерді, немесе элементтерді сақтайды. Хабардағы (белгідегі, элементтегі) ақпараттың саны:

Егер Р=0,5 онда I=log₂(1/0,5)=- log₂0,5= 1 бит.

1 бит- бұл шығу ықтималдылығы 0,5 тең хабардың (белгінің, элементтің) ішіндегі ақпараттың саны.

Егер Р=1 (алушыға белгілі хабарда) онда I=-log₂1=0 бит. Белгілі хабардың ішінде ақпараты жоқ.

Ақпараттың санынан хабардың ықтималдылығын анықтауға болады:
Р=2^-I=1/2^I (1.2)
Хабардың (белгінің, элементтің) энтропиясы- бұл хабардың (белгінің, элементтің) ішіндегі ақпараттың орта (ықтималдылықты) саны.
Н= (P_i·I_i)= [P_i·log₂(1/P_i)]= - [P_i·log₂P_i, бит/хаб(бел, эл) (1.3)
мұндағы Р_i- i хабардың (белгінің, элементтің) шығу ықтималдылығы; I_i- i хабар-дағы (белгідегі, элементтегі) ақпараттың саны, бит; N- шығу көзіндегі хабар-лардың (белгілердің, элементтердің) саны (шығу көзі әліппесінің көлемі).

Егер барлық хабарлардың (белгілердің, элементтердің) шығу ықтималды-лықтары бірдей болса: P₁=P₂= =…=P_N=1/N, онда хабардың (белгінің, элемент-тің) энтропиясы максимальдік мәнін алады:

Шығу көзінің артықтылығы- бұл максимальдік мәніне жетпейтін макси-мальдік энтропиясының бөлігі.

1. 
   Егер хабардағы ақпараттың саны 3 бит болса, онда ақпараттың шығу ықтималдылығы неге тең болады?
   
2. 
   р₁=0,25; р₀=0,25; р_-1=0,5 ықтималдылықтарымен {1; 0; -1} белгілерді шығаратын шығу көзінің энтропиясын, энтропияның максимальдік мүмкінді мәнін және артықтылығын анықтау керек. Артықтылығының себебі қандай?
   

Есеп 1.

Шығу көзiнiң энтропиясын, оның мүмкінді максимальдік мәнін, артықтылы-ғын және «КАССА» хабардағы ақпараттың санын анықтаңыз.

Дискреттiк хабарлар шығу көзiнiң энтропиясы Н=8 бит/белгі. Барлық белгі-лердің шығу ықтималдылықтары бірдей. Шығу көзінің алфавиттың көлемі неге тең?

Шығу көзінен шыққан хабардың ішіндегі ақпараттың саны I=4 бит. Бұл хабар-дың шығу ықтималдылығы қандай?
Есеп 3.

Дискреттiк хабарлардың шығу көзi «1» және «0» екiлiк элементтердi шығара-ды. «1» деген элементтің шығу ықтималдылығы 0,25. Элементтiң ұзақтығы 10 мс.