Фраза «теория информации» будет выглядеть следующим образом:
0111
0100
001
10100
0110
110111
000
0110 1000
т
е
о
р
и
я
пробел
и
н
111111111 001 10100 11000
0101
111111100
0110
0110
ф
о
р
м
а
ц
и
и
Для того, чтобы выяснить,
является ли построенный код
оптимальным, необходимо найти среднюю информацию, приходящуюся на
один элементарный символ (0 или 1) и сравнить ее с максимально
возможной информацией.
Определим
среднюю информацию, содержащуюся в одной букве
передаваемого текста, т.е. энтропия
на одну букву
Н(б) = - (0,145log
2
0,145 +0,95log
2
0,95+…+0,002log
2
0,002)=4,42
Определим среднее число элементарных символов на букву (среднюю
длину кодового слова) как произведение количества символов кода на
вероятность появления данной буквы.
n
ср
= 3*0,145+3*0,095+4*0,074+…+9*0,002=4,45
Информация
на один элементарный символ
I
ср
=
Таким образом, информация на один символ близка к своему верхнему
пределу 1. Следовательно, построенный код в
целом отвечает принципу
оптимальности.
Достарыңызбен бөлісу: