Берілгені:
p(b1)=0,1
p(b2)=0,3
p(b3)=0,4
p(b4)=0,2
Шешуі:
Р(а1)=0,1*0,99+0,3*0,2+0,4*0=0,105
P(a2)=0,1*0,01+0,3*0,98+0,4*0,01+0,2*0,01=0,301
P(a3)=0,1*0+0,3*0+0,4*0,98+0,2*0,02=0,396
P(a4)=0,1*0+0,3*0+0,4*0,01+0,2*0,97=0,198
Сумма P(ai)=0,105+0,301+0,396+0,198=1
Энтропия источника сообщений
H(A)=(0,97log0,97+0,03log0,03+0log0)+(0,01log0,01+0,98log0,98+0,01log0,01)+(0log0+0,04log0,04+0,96log0,96)=0,07 бит/симв.
№6. Задана матрица вероятностей системы, объединенной в одну систему из двух взаимозависимых систем B и A:
P(A,B)=
Определить полные условные энтропии H(B/A) и H(A/B).
H(B/A)=-(log(2)0,3+log(2)0+lig(2)0)+(log(2)0,2+log(2)0,3+log(2)0,1)+ (log(2)0+log(2)0,1+lig(2)0)=0
H(A/B)=(log(2)0,3+log(2)0+log(2)0)+log(2)0,2+log(2)0,3+log(2)0,1)+ (log(2)0+log(2)0,1+lig(2)0)* (log(2)0,7+log(2)0,1+lig(2)0)
№7. Сообщения создаются двумя источниками и передаются по одному каналу связи. Известно, что на выходе источника i сигналы появляются с вероятностями pa=0,5; pb= 0,333; pc= 0,167. Условные вероятности появления сигналов D, E, F и G источника j при условии, что были переданы сигналы A, B, C источника i, соответственно равны: p(D/A)=p(E/A)=p(F/A)=p(G/A)=0,25;
p(D/B)=0,3; p(E/B)=0,2;
p(F/B)=0,2; p(G/B)=0,3;
p(D/C)=0,166; p(E/C)=0,5;
p(F/C)=0,167; p(G/C)=0,167.
Определить совместную энтропию источников i, j, условную энтропию H(j/i), энтропию второго источника, а так же максимальное значение энтропии.
Берілгені:
pa=0,5;
pb= 0,333;
pc= 0,167
p(D/A)=p(E/A)=p(F/A)=p(G/A)=0,25;
p(D/B)=0,3; p(E/B)=0,2;
p(F/B)=0,2; p(G/B)=0,3;
p(D/C)=0,166; p(E/C)=0,5;
p(F/C)=0,167; p(G/C)=0,167
Достарыңызбен бөлісу: |
