Измерение информации
Алфавитный подход
Единицы измерения информации
Содержательный подход
Мытина Виктория Николаевна
учитель информатики
МБОУ КСОШ №3
Три кита на которых стоит мир
Информация
Энергия
Вещество
Как измерить количество информации?
Можно ли измерить вещество?
Можно ли измерить энергию?
Беседа с учащимися, в результате которой ставится цель и задачи урока.
На нашем первом уроке мы с вами говорили о том, что в основе нашего мира лежат три составляющие – вещество, энергия и информация.
Из вещества он слагается, энергией движется, информацией направляется. Вещество и энергию изучают естественные науки (химия, физика, биология и др.). Информацию изучает информатика.
Любая наука рано или поздно приходит к необходимости как-то измерить то, что она изучает.
- Можно ли измерить вещество? (можно взвесить, определить длину, найти объем и т.д.)
- Можно ли определить количество энергии? (можно тепловую, электроэнергию и т.д.)
- Измерение происходит путем сопоставления измеряемой величины с эталонной единицей (приводим примеры)
- Как измерить информацию? В каких единицах измерения измеряют информацию?
- Этот вопрос очень непростой. Ответ на него зависит от того, что мы понимаем под информацией. Но поскольку определять информацию можно по разному, то и способы измерения тоже могут быть разными.
Например:
Например:
тепловая энергия,
длина (мм, см, дм, м,…
электроэнергия (Дж)
вес (мг, г, кг,…
объем (мм 3 , см 3 ,…
Какие единицы измерения?
0) (количество информации = 0) (количество информации 0) Log a x+Log a y= log a (xy) 5*7=35 Сообщение6– это информационный поток, который в процессе передачи информации поступает от источника к приемнику . Это речь, которую мы слушаем (объяснение учителя, радиосообщение), это воспринимаемые нами зрительные образы (фильм, сигнал светофора), это текст книги, которую мы читаем и т. д. Обсуждение вопроса : «В каком случае сообщение информативно для человека». Для разных людей одно и то же сообщение с точки зрения его информативности может быть разным. СООБЩЕНИЕ " width="640"
Информация - это сведения об окружающем мире и протекающих в нем процессах .
Информативным назовем сообщение, которое пополняет знания человека , т.е. несет для него информацию.
«Старые» сведения знания не пополнят, т. е. сообщение неинформативно
Новые сведения пополнят знания, т. е. сообщение информативно
Непонятное сообщение неинформативно
Понятное/ новое сообщение информативно
(количество информации = 0)
(количество информации 0)
(количество информации = 0)
(количество информации 0)
Log a x+Log a y= log a (xy)
5*7=35
Сообщение6– это информационный поток, который в процессе передачи информации поступает от источника к приемнику . Это речь, которую мы слушаем (объяснение учителя, радиосообщение), это воспринимаемые нами зрительные образы (фильм, сигнал светофора), это текст книги, которую мы читаем и т. д.
Обсуждение вопроса : «В каком случае сообщение информативно для человека».
Для разных людей одно и то же сообщение с точки зрения его информативности может быть разным.
СООБЩЕНИЕ
Вывод:
Сообщение несет информацию для человека ( информативно ), если содержащиеся в нем сведения являются для него новыми и понятными .
количество информации зависит от информативности.
количество информации зависит от её содержания, понятности и новизны.
Зависит от человека (субъективно)
вопрос
ответ
Какой город является столицей Франции?
Чему равно значение определенного интеграла?
Какую высоту и вес имеет Эйфелева башня?
Столица Франции - Париж
Значение определенного интеграла равно разности значений первообразной подынтегральной функции на верхнем и нижнем пределах.
Закрепление.
Учащиеся записывают ответы на вопросы. Если ученик не знает ответ, он ставит знак вопроса.
Учитель дает правильные ответы.
Обсуждается, какие из данных сообщений информативны и почему?
Эйфелева башня имеет высоту 300 метров и вес 9000 тонн
Для того, чтобы измерить информацию объективно ,
нельзя опираться на её содержание
Существует 2 подхода при определении количества информации – содержательный и алфавитный. Содержательный применяется для измерения информации, используемой человеком, а алфавитный – компьютером.
Алфавитный (объёмный) подход к измерению информации
Алфавитный подход
- Алфавитный подход позволяет измерять количество информации в тексте (символьном сообщении) , составленном из символов некоторого алфавита.
- Информационный объём сообщения не зависит от содержания (объективный подход)
- Используется в технике
Алфавит - ?
Алфавит – набор знаков, используемых при кодировании информации с помощью некоторого языка.
Примеры:
АБВГДЕЁЖЗИЙКЛМНОПРС Т УФХЦЧШЩЪЫЬЭЮЯ
ABCDEFGHIJKLMNOPQRSTUVWXYZ
- +
0123456789
N=33
N=26
N=2
Ответить на вопрос, что такое алфавит сначала предлагается самим учащимся, так как это понятие им хорошо знакомо.
N=10
Мощность алфавита – количество символов в алфавите (N) .
Алфавитный подход
- Каждый символ имеет свой информационный вес
текст записан с помощью символов некоторого алфавита (различаются своей мощностью) вес символа зависит от мощности алфавита
Китайский иероглиф – цветок
Обсуждаем с учащимися от чего зависит информационный вес символа и делаем вывод: вес символа зависит от мощности алфавита
Б
Какова минимальная мощность алфавита , с помощью которого можно записывать (кодировать) информацию?
Двоичный алфавит
0
Да нет
0 1
- +
Двоичный алфавит
Информационный вес символа двоичного алфавита принят за единицу информации – 1 бит
Бит – минимальная единица информации
0
1
Символ
Двоичный код
Информационный вес символа = длине двоичного кода
Двоичное кодирование универсально. С помощью двоичного кода можно закодировать любой символ.
Например: 11101000111011011111010011101110111100001110110011100000111101101110100011111111 содержит 40 бит информации
13
Сколько символов можно закодировать двумя битами?
Сначала учащиеся самостоятельно в тетрадях записывают все возможные варианты.
Значит в алфавите мощностью 4 символа
информационный вес каждого символа - 2 бита .
13
Сколько символов можно закодировать тремя битами?
Значит в алфавите мощностью 8 символов
информационный вес каждого символа - 3 бита .
Зависимость между мощностью алфавита N и информационным весом символа i
N
2
i
4
1 бит
8
2 бита
3 бита
16
4 бита
Заметим, что 2 = 2 1 , 4 = 2 2 , 8 = 2 3 , 16 = 2 4 .
Информационный вес каждого символа, выраженный в битах ( i ), и мощность алфавита ( N ) связаны между собой формулой: N = 2 i
Сначала предлагается учащимся самим увидеть закономерность.
N = 2 i
Задачи
№ 3
№ 2
№ 1
N=8
N=2
N=33
Найти i
Найти i
Найти i
Решение:
Решение:
Решение:
2=2 i
N i
8=2 i
64=2 i
i =3 бита
i =1 бит
i =6 битов
№ 4
i =7 битов
Найти N
Решение:
N=2 7
N=128 символов
Информационный объём сообщения
Информационный объём сообщения
Количество символов (знаков) в тексте
I =
i
L
Информационный вес одного символа (знака)
Алгоритм вычисления информационного объема сообщения
- Определяем мощность алфавита N ;
- Вычисляем информационный вес символа i (бит) :
N = 2 i
3) Вычисляем информационный объем сообщения:
где L – количество символов в сообщении.
I = L · i
Информационный объём текста
Сообщение, записанное буквами из 64-символьного алфавита, содержит 2000 символов. Какой объём информации оно несет?
Дано: L=2000, N=64
Найти: I - ?
Решение:
N=2 i
64=2 i
i=6 (бит) – информационный вес одного символа.
I=L*i
I=2000*6=12000 (бит)
Ответ: 12000 бит.
18
Единицы измерения информации
1 бит – минимальная единица измерения информации
КОМПЬЮТЕРНЫЙ АЛФАВИТ
- русские буквы
- латинские буквы
- цифры (1, 2, 3, 4, 5, 6, 7, 8, 9, 0)
- математические знаки (+, -, *, /, ^, =)
- прочие символы («», №, %, , :, ;, #, &)
Компьютерный алфавит содержит 256 символов. 256 = 2 8 i =8 битов
Фактически для выражения объема компьютерной информации в качестве основной единицы используется байт.
1 байт = 8 битов
1 байт - информационный вес символа алфавита мощностью 256.
18
Единицы измерения информации
1 байт (bytе) = 8 бит
1 Кбайт (килобайт) = 1024 байт =2 10 байт
1 Мбайт (мегабайт) = 1024 Кбайт
1 Гбайт (гигабайт) = 1024 Мбайт
1 Тбайт (терабайт) = 1024 Гбайт
1 Пбайт (петабайт) = 1024 Тбайт
умножение
деление
18
Перевод в другие единицы
3 ·1024 байт = 3072 байта
3 Кбайта =
? байт
15 · 8 бит = 120 бит
15 байт =
? бит
2048 :1024Мбайт = 2 Мб
? Мбайт
2048 Кбайт =
1024 Mбайт =
? Гб
1024 :1024 Гб=1Гб
1Кбайт =
? бит
1 · 1024 ·8 бит = 8192 бита
байт
Задача №1
Сколько килобайтов составит сообщение из 2048 символов 16-ти символьного алфавита
Решение:
Дано: L =2048, N =16
Найти: I - Кб?
N=2 i
16=2 i
i =4 (бита) – информационный вес одного символа.
I=L*i
2
1
1 Кбайт
2
1
Ответ: 1 Кбайт.
Задача №2
Информационный объём сообщения равен 3 Кб. Информационный вес символа – 32 бита. Сколько символов содержит сообщение?
Дано: I =3 Kб,
i = 32 бита
Найти: L?
Решение:
Ответ: 768 символов
Основные понятия
Алфавитный подход позволяет измерить объём информации не зависимо от её содержания.
Каждый символ несёт некоторое количество информации и имеет информационный вес (i) .
Минимальная единица измерения информации – 1 бит .
Мощность алфавита и информационный вес символа связаны отношением: N = 2 i .
Информационный объём сообщения вычисляется по формуле: I = L*i .
1 байт = 8 бит
Байты, килобайты (КБ), мегабайты (МБ),
гигабайты (ГБ), терабайты (ТБ) – единицы измерения информации. Каждая в 1024 раза больше предыдущей.
Содержательный подход к измерению информации
18
Содержательный подход к измерению информации
Информация — уменьшение неопределенности наших знаний.
Неопределенность знания некоторого события — это число возможных вариантов результата .
Используется в теории информации
Рассматривается сообщение, которое содержит сведения о том, что произошло одно из конечного множества (N) возможных событий.
Равновероятные события –
ни одно из них не имеет преимущества перед другими.
Клод Элвуд Шеннон
18
Единица измерения информации
Сообщение о том, что произошло одно событие из двух равновероятных, несет 1 бит информации
При бросании монеты неопределенность равна 2 сообщение о том, что выпал «Орёл » несет 1 бит информации
Книга лежит на одной из двух полок неопределенность знаний равна 2
Сообщение о том, что книга лежит на верхней полке уменьшает неопределенность в два раза данное сообщение несет 1 бит информации
18
В ящике лежат 4 шара.
Какое количество информации несет сообщение
« Достали красный шар »
?
Формула Хартли (для равновероятных событий)
2 i = N
N – неопределённость знаний, т.е. число возможных результатов (вариантов сообщения)
i – количество информации в сообщении о том, что произошло одно из N равновероятных событий
18
В ящике лежат 4 шара.
Какое количество информации несет сообщение
« Достали красный шар »
?
N=4
2 i =4
i=2 (бита)
18
Задачи
1.В классе 32 ученика. Какое количество информации содержится в сообщении о том, что к доске пойдет Коля Сидоров?
N = 32
N = 2 i
32 = 2 i
i = 5 бит
i - ?
2.Сообщение о том, что ваш друг живет на 5 этаже, несет 4 бита информации. Сколько этажей в доме?
i = 4 бита
N - ?
N = 2 i
N = 2 4
N = 16 этажей
18
Основные понятия
Содержательный подход позволяет измерить объём информации в сообщении о том, что произошло одно из N событий.
Сообщение о том, что произошло одно из двух равновероятных событий несет 1 бит информации .
Для определения количества информации ( i), содержащейся в сообщении о том, что произошло одно из N равновероятных событий, нужно решить показательное уравнение: N = 2 i .