№4 Измерение информации. Содержательный подход

Измерение информации. Содержательный подход

измерение информации

объёмный подход

содержательный подход

бессмысленное сочетание символов

количество информации

содержание полученного сообщения

ненулевой информационный объём

Клод Шеннон

1 бит

сообщение, уменьшающее неопределённость знания в 2 раза

Теория информации

Неопределённость знания о результате события

=

Количество возможных результатов

Сообщение об одном из двух равновероятных результатов

=

1 бит информации

Метод половинного деления

возможные оценки ученика на экзамене

4

2

3

5

Вопрос:

Ну что получил?

Сколько бит информации содержится в ответе?

4

Ответ:

1-й вопрос

2-й вопрос

Подойдём к ответу постепенно.

2

3

4

5

Как ставить вопросы?

Каждый ответ должен уменьшать количество возможных результатов в 2 раза?

Да

1-й вопрос: оценка выше тройки?

Нет

2-й вопрос: ты получил пятёрку?

Метод половинного деления

Метод поиска

На каждом шаге отбрасывается половина вариантов

Главная формула информатики

Количество информации, содержащейся в сообщении о том, что имел место один из множества равновероятных результатов события.

Количество информации в сообщении об одном из N результатов

2 i = N

Главная формула информатики

N — степень числа 2

i — целое число

N=6 2 i =6

2 2

2

Домашнее задание:

В учебнике: § 4 , стр 21-24