ПОДХОДЫ К ИЗМЕРЕНИЮ ИНФОРМАЦИИ
ИНФОРМАЦИЯ И ИНФОРМАЦИОННЫЕ ПРОЦЕССЫ
Ключевые слова
- измерение информации
- содержательный подход
- алфавитный подход
- кодовая таблица
Содержательный подход
Информация – это снятая неопределенность. Величина неопределённости некоторого события – это количество возможных результатов данного события.
!
Клод Элвуд Шеннон (1916-2001) – американский инженер и математик. Является основателем теории инфор-мации, нашедшей применение в современных высокотехнологических системах связи.
В 1948 году предложил использовать слово « бит » для обозначения наименьшей единицы информации.
Метод половинного деления
Количество информации i , содержащееся в сообщении об одном из N равновероятных результатов некоторого события, определяется из решения уравнения
2 i = N .
?
!
Комментарии
Нажатие «пробела» приводит к появлению решения и ответа
Второе нажатие – выводит второй вопрос и формулу для решения подобных задач
4
Алфавитный подход
Андрей Николаевич Колмогоров (1903-1987)
Один из крупнейших математиков ХХ века. Им получены основополагающие результаты в математической логике, теории сложности алгоритмов, теории информации, теории множеств и ряде других областей математики и её приложений.
Информация – последовательность символов (букв, цифр, кодов точек изображения) некоторого алфавита.
!
Количество информации представленное в сообщении не зависит от содержания сообщения.
Алфавитный подход
Алгоритм вычисления информационного объёма сообщения :
- определить N – мощность используемого алфавита
- определить i – информационный вес символа алфавита в битах (2 i = N)
- вычислить информационный объём сообщения I ( I = i *K)
Подсчитайте информационный объем необходимый для записи текущего состояния игры в крестики-нолики на поле 3х3 клетки.
?
Дано :
N = 3 («х», «о», пустая)
K = 3 * 3 = 9 (клеток)
2 i = N
I = K· i
3≤4=2 2 , i = 2 бита
I = 2 * 9 = 18 бит
Ответ : 18 бит
I - ?
Единицы измерения информации
1 Кбайт = 2 10 байт
1 Мбайт = 2 10 Кбайт = 2 20 байт
1 Гбайт = 2 10 Мбайт = 2 20 Кбайт = 2 30 байт
1 Тбайт = 2 10 Гбайт = 2 20 Мбайт = 2 30 Кбайт = 2 40 байт
1 Пбайт = 2 10 Тбайт = 2 20 Гбайт = 2 30 Мбайт = 2 40 Кбайт = 2 50 байт
С 1999 г. Международная комиссия ввела новый стандарт:
1 килобайт = 1000 байт,
1024 байта = 1 кикибайт (Кибайт).
-----------------------Вопрос к чему относится?
7
Самое главное
Содержательный подход
Информация – это снятая неопределенность. Сообщение, уменьшающее неопределённость знания в 2 раза, несёт 1 бит информации.
Количество информации i , содержащееся в сообщении об одном из N равновероятных результатов некоторого события, определяется из решения уравнения 2 i = N .
Алфавитный подход
Информация – последовательность символов некоторого алфавита. В двоичном коде один двоичный разряд несёт 1 бит информации.
Информационный объём сообщения вычисляется по формуле: I = K · i
Байкал
Омск
Сахалин
Ангара
Улан-Удэ
Санкт-Петербург
Давайте обсудим
Дано множество карточек с географическими названиями:
Придумайте сообщение, информационный объем которого равен 1 биту.
Москва
Крым
Комментарии
Ответ. Сообщение должно разделить множество карточек на два равных подмножества. Среди приведенных карточек четыре города.
Информационный объем сообщения о том, что на карточке название города равен 1 бит. Этот вариант не единственный. (Вторая буква гласная)
Подсказка
Давайте обсудим
При кодировании ID-номера используется посимвольное кодирование. Алфавит содержит 26 букв латинского алфавита и цифры 0…9. Сколько символов можно добавить к алфавиту без увеличения информационного объема необходимого для хранения 100 номеров?
Комментарии
Ответ. В задаче есть лишняя информация, не используемая для решения. В алфавите 26+10=36 символов. 36 ≤ 64 = 2 6 . Информационный объем одного символа 6 бит. Но информационный объем в 6 бит позволяет закодировать алфавит мощностью 64 символа. Добавление 28 (64-36=28) символов не изменяет информационный объем символа.
Ответ
Ответ: 28 символов
Вопросы и задания
- Что такое неопределённость знания о результате какого-либо события? Приведите пример.
- В чём состоит суть содержательного подхода к определению количества информации?
- Что такое бит с точки зрения содержательного подхода?
- Партию игры на шахматном поле записали в виде последовательности выполненных ходов. Сравнить два способа кодирования:
a) традиционное название клеток (пример одного хода: a1-b2 );
b) нетрадиционное именование клеток, при котором клетки имеют «сквозную» нумерацию каждой клетке соответствует одно число (пример хода: 62-18).
Решите эту задачу для двух видов полей: 8х8 и 10х10 клеток
Вопросы и задания
- В школе 750 учащихся. Коды учащихся записаны в школьной информационной системе с помощью минимального количества бит. Каков информационный объем в байтах сообщения о кодах 180 учащихся начальных классов?
- При регистрации в компьютерной системе каждому пользователю выдаётся пароль, состоящий из 6 символов и содержащий только символы из шестибуквенного набора А, В, С, D, E, F. Для хранения сведений о каждом пользователе отведено одинаковое и минимально возможное целое число байт. При этом используют посимвольное кодирование паролей и все символы кодируются одинаковым и минимально возможным количеством бит. Определите объём памяти в байтах, необходимый для хранения сведений о 120 пользователях.
Информационные источники
- https://upload.wikimedia.org/wikipedia/ru/3/3d/Shannon.jpg
- http://www.mcquaig.co.uk/wp-content/uploads/3d-small-people-magnifying-glass1.jpg
- http://img13.nnm.me/c/b/f/a/5/615322c844368d7ea5589d2e331.jpg
- http://billiard-s.dn.ua/~images/catalog/balls/bitokblack.jpg
- http://cp12.nevsepic.com.ua/57/1354219984-7.png
- http://nukitoys.ru/upload/iblock/c9a/2c2fdb49-7266-11e1-9da4-6c626d7fc8ee_2c2fdb4c-7266-11e1-9da4-6c626d7fc8ee.resize1.jpeg
- http://www.thegameengineer.com/blog/wp-content/uploads/2014/02/dreamstime_s_21174065.jpg
- http://programs-tv.ru/upload/tv/videos/12/1143/114249.jpg
- http://images.fineartamerica.com/images-medium-large/andrei-kolmogorov-soviet-mathematician-ria-novosti.jpg
- http://www.genon.ru/GetAnswer.aspx?qid=3a5d68df-d1a1-44c4-8005-ce61f203d480
- http://www.btc.ru/catalog/52/front.jpg
- http://a1995.phobos.apple.com/us/r1000/105/Purple/v4/e5/9c/83/e59c838f-daa5-318d-a710-9b68aaadd9c4/mzl.cshaqxth.png
- https://openclipart.org/image/2400px/svg_to_png/201826/Template-Latin-Alphabet-Roman-Numbers-Uppercase-2014090931.png
- http://i009.radikal.ru/0806/a7/3719e1824d36.png