Пример 1. После экзамена по информатике, который сдавали ваши друзья, объявляются оценки («2», «3», «4» или «5»). Какое количество информации будет нести сообщение об оценке учащегося А, который выучил лишь половину билетов, и сообщение об оценке учащегося В, который выучил все билеты.
Опыт показывает, что для учащегося А все четыре оценки (события) равновероятны и тогда количество информации, которое несет сообщение об оценке, можно вычислить по формуле :
I = log24 = 2 бита. На основании опыта можно также предположить, что для учащегося В наиболее вероятной оценкой является «5» ( = 1/2), вероятность оценки «4» в два раза меньше (р2 = 1/4), а вероятности оценок «2» и «3» еще в два раза меньше (р3 = р4 = 1/8). Так как события неравновероятны, воспользуемся для подсчета количества информации в сообщении формулой :
I = - (1/2 • log2l/2 + 1/4 • log2l/4 + 1/8 • log2l/8 + 1/8 • log2l/8) бит = 1,75 бита. Вычисления показали, что при равновероятных событиях мы получаем большее количество информации, чем при неравновероятных событиях.
Пример 2. Какое количество вопросов достаточно задать вашему собеседнику, чтобы наверняка определить месяц, в котором он родился?
Будем рассматривать 12 месяцев как 12 возможных событий. Если спрашивать о конкретном месяце рождения, то, возможно, придется задать 11 вопросов (если на 11 первых вопросов был получен отрицательный ответ, то 12-й задавать не обязательно, так как он и будет правильным).
Правильнее задавать «двоичные» вопросы, то есть вопросы, на которые можно ответить только «Да» или «Нет». Например, «Вы родились во второй половине года?». Каждый такой вопрос разбивает множество вариантов на два подмножества: одно соответствует ответу «Да», а другое — ответу «Нет».
Правильная стратегия состоит в том, что вопросы нужно задавать так, чтобы количество возможных вариантов каждый раз уменьшалось вдвое. Тогда количество возможных событий в каждом из полученных подмножеств будет одинаково и их отгадывание равновероятно. В этом случае на каждом шаге ответ («Да» или «Нет») будет нести максимальное количество информации (1 бит).
По формуле получаем:
I = log212 ~ 3, 6 бита. Количество полученных бит информации соответствует количеству заданных вопросов, однако количество вопросов не может быть нецелым числом. Округляем до большего целого числа и получаем ответ: при правильной стратегии необходимо задать не более 4 вопросов.
Задания для самостоятельного выполнения
3. Какое количество информации несет в себе сообщение о том, что нужная вам программа находится на одной из восьми дискет?
4. Какое количество информации получит второй игрок при игре в крестики-нолики на поле 88, после первого хода первого игрока, играющего крестиками?
5. В рулетке общее количество лунок равно 128. Какое количество информации мы получаем в зрительном сообщения об остановке шарика в одной из лунок?
6. Происходит выбор одной карты из колоды в 32 карты. Какое количество информации мы получаем в зрительном сообщении о выборе определенной карты?
7. Какое количество информации будет содержать зрительное сообщение о цвете вынутого шарика, если в непрозрачном мешочке хранятся:
а) 25 белых, 25 красных, 25 синих и 25 зеленых шариков;
б) 30 белых, 30 красных, 30 синих и 10 зеленых шариков?
8. Какое количество вопросов достаточно задать вашему собеседнику, чтобы точно определить день и месяц его рождения?
Единицы измерения количества информации
Единицы измерения количества информации. За единицу количества информации принят 1 бит — количество информации, содержащееся в сообщении, уменьшающем неопределенность знаний в два раза.
Принята следующая система единиц измерения количества информации:
1 байт = 8 бит;
1 Кбайт = 210 байт;
1 Мбайт = 210 Кбайт = 220 байт;
1 Гбайт = 210 Мбайт = 220 Кбайт = 230 байт.
Задания для самостоятельного выполнения
9. Заполнить пропуски числами:
а) 5 Кбайт =___байт =___бит;
б) ___Кбайт = ___байт = 12288 бит;
в) ___Кбайт =___байт = 2___бит;
г) ___Гбайт =1536 Мбайт =___Кбайт;
д) 512 Кбайт = 2___ байт = 2___ бит.
10. Найти х из следующих соотношений:
а) 16 бит = 32 Мбайт;
б) 8 Кбайт = 16 Гбайт.
Определение количества информации, представленной с помощью знаковых систем
Если рассматривать символы алфавита как множество возможных сообщений (событий) N, то количество информации, которое несет один знак, можно определить из формулы . Если считать появление каждого знака алфавита в тексте событиями равновероятными, то для определения количества информации можно воспользоваться формулой или уравнением .
Количество информации, которое несет один знак алфавита, тем больше, чем больше знаков входят в этот алфавит, то есть чем больше мощность алфавита.
Количество информации, содержащейся в сообщении, закодированном с помощью знаковой системы, равно количеству информации, которое несет один знак, умноженному на число знаков в сообщении.
Пример 11. Какова мощность алфавита, с помощью которого записано сообщение, содержащее 2048 символов, если его объем составляет 1,25 Кбайта.
Арифметически перевести информационный объем сообщения в биты:
I = 10 240 бит. Определить количество бит, приходящееся на один символ:
10 240 бит: 2 048 = 5 бит. По формуле определить количество символов в алфавите:
N = 21 = 25 = 32.
Задания для самостоятельного выполнения
12. Какова мощность алфавита, с помощью которого записано сообщение, содержащее 2048 символов, если его объем составляет 1/512 часть одного мегабайта?
13. Пользователь компьютера, хорошо владеющий навыками ввода информации с клавиатуры, может вводить в минуту 100 знаков. Мощность алфавита, используемого в компьютере, равна 256. Какое количество информации в байтах может ввести пользователь в компьютер за 1 минуту?
14. Система оптического распознавания символов позволяет преобразовывать отсканированные изображения страниц документа в текстовый формат со скоростью 4 страницы в минуту и использует алфавит мощностью 65536 символов. Какое количество информации будет нести текстовый документ после 5 минут работы приложения, страницы которого содержат 40 строк по 50 символов?
ПРИЛОЖЕНИЕ 9
Практическая работа № 2
Тема: Числа и системы счисления
Достарыңызбен бөлісу: |