Решение задач на вычисление количества информации

Для решения различных задач на определение количества информации вы должны помнить следующее:

• отношение количества вариантов (или чисел) N к количеству информации которую несет в себе один из вариантов I: N=2^I
• полный информационный объем сообщения V равен количество символов в сообщении K умноженное на количество информации на каждый символ I: V=K*I
• Формула Шеннона для равновероятных событий: I=log₂N
• если алфавит имеет мощность ( количество символов в этом алфавите) М, то количество всех возможных «слов» (символьных цепочек) длиной N (без учета смысла) равно K=M^N; для двоичного кодирования (мощность алфавита M –2 символа) получаем известную формулу:K=2^N

Таблица степеней двойки, покажет сколько вариантов можно закодировать с помощью N бит:

N бит	1	2	3	4	5	6	7	8	9	10
K вариантов	2	4	8	16	32	64	128	256	512	1024

1 байт = 8 бит
1 Кбайт = 2¹⁰байт = 1024 байт
1 Мбайт = 2¹⁰Кбайт = 1024 Кбайт

Задача №1.

Световое табло состоит из лампочек. Каждая лампочка может находиться в одном из трех состояний («включено», «выключено» или «мигает»). Какое наименьшее количество лампочек должно находиться на табло,чтобы с его помощью можно было передать 18 различных сигналов?

1) 6 2) 5 3) 3 4)4

Решение задачи №1.

В данной задаче мощность алфавита равна трем («включено», «выключено» или «мигает»). Количество необходимых сигналов 18, следовательно 18=3^N, N=3.

Ответ: Количество лампочек равно 3.

Задача №2.

Метеорологическая станция ведет наблюдение за влажностью воздуха. Результатом одного измерения является целое число от 0 до100 процентов, которое записывается при помощи минимально возможного количества бит. Станция сделала 80 измерений. Определите информационный объем результатов наблюдений.

1) 80 бит 2) 70 байт 3) 80 байт 4) 560 байт

Решение задачи №2.

Определим информационный объем одного измерения: количество возможных вариантов равно 100 (т.к. результатом одного измерения является целое число от 0 до100 процентов), следовательно, информационный объем одного варианта измерения находится по формуле: 100=2^I, I = 7 бит.

Так как станция сделала 80 измерений, следовательно, информационный объем результатов наблюдений равен 7*80=560 бит, но такого ответа нет, значит переведем биты в байты: 560/8=70 байт.

Ответ: Информационный объем результатов наблюдений равен 70 байтам.

Задача №3.

Сколько существует различных последовательностей из символов «плюс» и «минус», длиной ровно в пять символов?

1) 64 2) 50 3) 32 4)20

Решение задачи №3.

Мощность алфавита равна 2. Длина слова равна 5. Количество различных последовательностей К=2⁵=32.

Ответ: Количество различных последовательностей 32.

Задача №4.

В корзине лежат 8 черных шаров и 24 белых.Сколько бит информации несет сообщение о том, что достали черный шар?

1) 2 бита 2) 4 бита 3) 8 бит 4) 24бита

Решение задачи №4.

Черные шарики составляют 1/4 из всех шаров, следовательно информация о том что достали черный шарик соответствует одному из 4 вариантов. 1 из 4 вариантов несет в себе количество информации равное 2 (4=2²).
Также можно решить данную задачу по формуле Шеннона: количество вариантов получения черного шарика равна 4, следовательно, I=log₂4 = 2 бита.
Ответ: 2 бита.

Задача №5

В коробке лежат 64 цветных карандаша. Сообщение о том, что достали белый карандаш, несет 4 бита информации. Сколько белых карандашей было в коробке?

1) 4 2) 8 3) 16 4)32

Решение задачи №5.

Данная задача похожа на задачу №4, только нам надо определить количество карандашей по известному количеству информации который несет один карандаш.
Определим количество возможных событий (вариантов получения белого карандаша) по формуле Шеннона: log₂N=4, следовательно, N=16.
Количество возможных событий получения белого карандаша равно 16, следовательно, количество белых карандашей составляет 1/16 всех карандашей. Всего карандашей 64, следовательно белых карандашей 64/16=4.
Ответ: 4 белых карандаша.

Задача №6.

В корзине лежат черные и белые шары. Среди них18 черных шаров. Сообщение о том, что достали белый шар, несет 2 бита информации. Сколько всего шаров в корзине?

1) 18 2) 24 3) 36 4)48

Решение задачи №6

Найдем по формуле Шеннона вероятность получения белого шара: log₂N=2, N=4, следовательно, вероятность получения белого шара равна 1/4 (25%), а вероятность получения черного шара соответственно 3/4(75%). Если 75% всех шариков черные, их количество 18, тогда 25% всех шариков белые, их количество (18*25)/75=6.

Осталось найти количество всех шариков в корзине 18+6=24.

Ответ: 24 шарика.

Задача №7.

В некоторой стране автомобильный номер длиной 5 символов составляется из заглавных букв (всего используется 30 букв) и десятичных цифр в любом порядке. Каждый символ кодируется одинаковым и минимально возможным количеством бит, а каждый номер – одинаковым и минимально возможным количеством байт. Определите объем памяти, необходимый для хранения 50 автомобильных номеров.

1) 100 байт 2) 150 байт 3) 200 байт 4)250 байт

Решение задачи №7.

Количество символов используемых для кодирования номера составляет: 30 букв + 10 цифр = 40 символов. Количество информации несущий один символ равен 6 бит (2^I=40, но количество информации не может быть дробным числом, поэтому берем ближайшую степень двойки большую количества символов 2⁶=64).

Мы нашли количество информации заложенное в каждом символе, количество символов в номере равно 5, следовательно 5*6=30 бит. Каждый номер равен 30 битам информации, но по условию задачи каждый номер кодируется одинаковым и минимально возможным количеством байт, следовательно нам необходимо узнать сколько байт в 30 битах. Если разделить 30 на 8 получится дробное число, а нам необходимо найти целое количество байт на каждый номер, поэтому находим ближайший множитель 8-ки который превысит количество бит, это 4 (8*4=32). Каждый номер кодируется 4 байтами.

Для хранения 50 автомобильных номеров потребуется: 4*50=200 байт.

Ответ: 200 байт.

Задача №8.

Для регистрации на сайте некоторой страны пользователю необходимо придумать пароль длиной ровно 11 символов. В пароле можно использовать десятичные цифры и 12 различных символов местного алфавита,причем все буквы используются в двух начертаниях – строчные и прописные. Каждый символ кодируется одинаковым и минимально возможным количеством бит, а каждый пароль – одинаковым и минимально возможным количеством байт. Определите объем памяти, необходимый для хранения 60 паролей.

1) 720 байт 2) 660 байт 3) 540 байт 4)600 байт

Решение задачи №9.

Количество символов используемых для кодирования пароля составляет: 10 цифр + 12 строчных букв + 12 прописных букв = 34 символа. Количество информации несущий один символ равен 6 бит (2^I=34, но количество информации не может быть дробным числом, поэтому берем ближайшую степень двойки большую количества символов 2⁶=64).

Мы нашли количество информации заложенное в каждом символе, количество символов в пароле равно 11, следовательно 11*6=66 бит. Каждый пароль равен 66 битам информации, но по условию задачи каждый пароль кодируется одинаковым и минимально возможным количеством байт, следовательно нам необходимо узнать сколько байт в 66 битах. Если разделить 66 на 8 получится дробное число, а нам необходимо найти целое количество байт на каждый пароль, поэтому находим ближайший множитель 8-ки который превысит количество бит, это 9 (8*9=72). Каждый номер кодируется 9 байтами.

Для хранения 60 паролей потребуется: 9*60=540 байт.

Ответ: 540 байт.

Задача №10

Для кодирования сообщений решено использовать последовательности разной длины, состоящие из знаков «+» и «-». Сколько различных сообщений можно закодировать, используя в каждом из них не менее 2-х и не более 6 знаков?

Решение задачи №10

Мощность алфавита равна 2 (знаки «+» и «-»). Количество различных сообщений для слов из 2-ух букв равно 2²=4, для 3-ех букв 2³=8, для 4-ех 2⁴=16, для 5-и 2⁵=32, для 6-и 2⁶=64.

Нам осталось только просуммировать значения различных слов: 4+8+16+32+64=124

Ответ: можно закодировать 124 различных сообщений.