Информация и знания. Единицы измерения количества информации. Информационные объекты различных видов

Метеостанция ведет наблюдения за влажностью воздуха. Результатом одного измерения является целое число от 0 до 100, которое записывается при помощи минимально возможного количества битов. Станция сделала 80 измерений. Определите информационный объем результатов наблюдений.

В данном случае алфавитом является множество чисел от 0 до 100, всего 101 значение. Поэтому информационный объем результатов одного измеренияI=log₂101. Но это значение не будет целочисленным, поэтому заменим число 101 ближайшей к нему степенью двойки, большей, чем 101. это число 128=2⁷.  Принимаем для одного измерения I=log₂128=7 битов. Для 80 измерений общий информационный объем равен 80*7 = 560 битов = 70 байтов.

Определите количество информации, которое будет получено после подбрасывания несимметричной 4-гранной пирамидки, если делают один бросок.

Пусть при бросании 4-гранной несимметричной пирамидки вероятности отдельных событий будут равны: p₁=1/2, p₂=1/4, p₃=1/8, p₄=1/8.

Тогда количество информации, которое будет получено после реализации одного из них, можно вычислить по формуле Шеннона:

I = -[1/2 * log₂(1/2) + 1/4 * log₂(1/4) + 1/8 * log(1/8) + 1/8 * log(1/8)] = 14/8 битов = 1,75 бита.

В книге 100 страниц; на каждой странице - 20 строк, в каждой строке - 50 символов. Определите объем информации, содержащийся в книге.

Решите самостоятельно!

Оцените информационный объем следующего предложения:

Тяжело в ученье – легко в бою!

Так как каждый символ кодируется одним байтом, нам только нужно подсчитать количество символов, но при этом не забываем считать знаки препинания и пробелы. Всего получаем 30 символов. А это означает, что информационный объем данного сообщения составляет 30 байтов или 30 * 8 = 240 битов.

Представление информации в различных системах счисления

Система счисления - это знаковая система, в которой числа записываются по определенным правилам с помощью символов некоторого алфавита, называемых цифрами.

В зависимости от способа изображения чисел системы счисления делятся на позиционные и непозиционные.

В позиционной системе счисления значение каждой цифры числа зависит от того, в каком месте (позиции или разряде) она записана. Например, меняя позицию цифры 2 в десятичной системе счисления, можно записать разные по величине десятичные числа, например: 2; 20; 2000; 0,02 и т. д. Позиция цифры в числе называется разрядом. Разряд числа возрастает справа налево, от младших разрядов к старшим.

В непозиционной системе счисления цифры не изменяют своего значения при изменении их расположения в числе. Примером непозиционной системы может служить римская система, в которой независимо от местоположения одинаковый символ имеет неизменное значение (например, символ X в числе XXV).

В римской непозиционной системе счисления для каждого числа используется некоторый набор базовых символов (I,V,X,L,C,D и M), соответствующих числам 1,5,10,50,100,500 и 1000. Остальные значения чисел получаются из базовых путем их сложения (например, XVII=17) или вычитания (например, IX=9).

Количество (р) различных символов, используемых для изображения числа в позиционной системе счисления, называется основанием системы счисления.

Основание показывает, во сколько раз изменяется количественное значение цифры при перемещении ее в младший или старший разряд.

Набор символов, используемый для обозначения цифр, называется алфавитом.

Так, например, алфавит двоичной системы счисления содержит всего два символа: 0 и 1, а алфавит шестнадцатеричной системы - 16 символов: десять арабских цифр и шесть латинских букв (0,1,2,3,4,5,6,7,8,9,A,B,C,D,E,F).

Любое число N в позиционной системе счисления можно представить в следующем виде:

Np=±(ak−1⋅pk−1+ak−2⋅pk−2+...+a0⋅p0+a−1⋅p−1+...+a−m⋅p−m)

Такой вид записи числа называют развернутой формой записи числа,

где р - основание системы счисления;

ai - цифры, принадлежащие алфавиту данной системы счисления;

k - количество разрядов в целой части числа;

m - количество разрядов в дробной части числа.

Нижние индексы определяют местоположение цифры в числе (разряд):

- положительные значения индексов - для целой части числа;

- отрицательные значения индексов - для дробной части числа.

Свернутой формой записи числа называется запись в виде:

N=(ak−1ak−2...a1a0,a−1a−2...a−m)p

Например:

- при р=10 в записи числа 2466,67510 в десятичной системе счисления k=3, m=3;

- при р=2 в записи числа 1011,112 в двоичной системе k=3, m=2.

Свернутой формой записи чисел мы и пользуемся в повседневной жизни, ее называют естественной илицифровой.

Основанием позиционной системы счисления может быть любое натуральное число (например, 5, 21, 37). Во избежание путаницы справа от числа нижним индексом приписывают основание: 1011012, 3678, 3B8A16, 3AO37.

Десятичная система счисления

Основание: p=10.
Алфавит: 0,1,2,3,4,5,6,7,8,9.

Десятичная система счисления наиболее распространенная система счисления в мире. Используется при повседневном счете. Для записи чисел используются арабские цифры (0, 1, 2, 3, 4, 5, 6, 7, 8, 9).

Число в десятичной системе счисления записывается в виде суммы числового ряда степеней основания (в данном случае 10), в качестве коэффициентов которых выступают цифры данного числа.

Пример:

765,34510=7⋅102+6⋅101+5⋅100+3⋅10−1+4⋅10−2+5⋅10−3

Двоичная система счисления

Основание: p=2.

Алфавит: 0,1.

Двоичную систему счисления широко применяют в вычислительной технике. К ее достоинствам относятся:

- возможность использования наиболее простой элементной базы микроэлектроники - всего с двумя устойчивыми состояниями;

- возможность использования аппарата булевой алгебры для выполнения логических преобразований информации;

- возможность использования простейших правил арифметики.

Основной недостаток двоичной системы - быстрый рост количества разрядов, необходимых для записи чисел. По этой, а также по некоторым другим причинам в вычислительной технике, кроме двоичной, применяются также восьмеричная и шестнадцатеричная системы счисления.

Число в двоичной системе счисления записывается в виде суммы числового ряда степеней основания (в данном случае 2), в качестве коэффициентов которых выступают цифры данного числа.

Пример:

1011,012=1⋅23+0⋅22+1⋅21+1⋅20+0⋅2−1+1⋅2−2

Восьмеричная система счисления

Основание: p=8.
Алфавит: 0,1,2,3,4,5,6,7.

Восьмеричная система чаще всего используется в областях, связанных с цифровыми устройствами. Характеризуется лёгким переводом восьмеричных чисел в двоичные и обратно, путём замены восьмеричных чисел на триады (группы по 3 разряда) двоичных. Ранее широко использовалась в программировании и вообще компьютерной документации, однако в настоящее время почти полностью вытеснена шестнадцатеричной.

Число в восьмеричной системе счисления записывается в виде суммы числового ряда степеней основания (в данном случае 8), в качестве коэффициентов которых выступают цифры данного числа.

Пример:

567,128=5⋅82+6⋅81+7⋅80+1⋅8−1+2⋅8−2

Шестнадцатеричная система счисления

Основание: p=16.
Алфавит: 0,1,2,3,4,5,6,7,8,9,A,B,C,D,E,F.

Здесь только десять цифр из шестнадцати имеют общепринятое обозначение 0,1,...,9. Для записи остальных цифр (10,11,12,13,14 и 15) обычно используются первые шесть букв латинского алфавита.

Шестнадцатеричная система счисления, на сегодняшний день является наиболее популярным средством компактной записи двоичных чисел. Очень широко используется при разработке и проектировании цифровой техники.

Число в шестнадцатеричной системе счисления записывается в виде суммы числового ряда степеней основания (в данном случае 16), в качестве коэффициентов которых выступают цифры данного числа.

Пример:

10FC16=1⋅163+0⋅162+F⋅161+C⋅160

Помимо рассмотренных выше позиционных систем счисления, существуют и другие, например:
- троичная (0,1,2);

- пятеричная (0,1,2,3,4)

- двенадцатеричная (0,1,2,3,4,5,6,7,8,9,A,B)

- тринадцатеричная (0,1,2,3,4,5,6,7,8,9,A,B,C).

В системах счисления с основанием больше 10 для представления чисел после цифр 0,1,2,…,9используют латинские буквы в алфавитном порядке: А (10), В (11), С (12) и т. д.

Пример:

1) Представим двоичное число 10110,1012 в виде суммы слагаемых, а затем произведем их сложение:

10110,1012=1⋅24+0⋅23+1⋅22+1⋅21+0⋅20+1⋅2−1+0⋅2−2+1⋅2−3==16+0+4+2+0+0,5+0+0,125=22,62510

Таким образом, 10110,1012=22,62510

2) Представим шестнадцатеричное число 5D8,AC16 в виде суммы слагаемых, а затем произведем их сложение:

5D8,AC16=5⋅162+13⋅161+8⋅160+10⋅16−1+12⋅16−2=1280+208+8+0,625+0,046875=1496,67187510

Таким образом, 5D8,AC16=1496,67187510

3) Вы­чис­ли­м сумму чисел 2F16, 2324 и 538, пред­ставив ре­зуль­тат в де­ся­тич­ной си­сте­ме счис­ле­ния.

Пе­ре­ве­дем все числа в де­ся­тич­ную си­сте­му счис­ле­ния, и сло­жим их:

2F16=2⋅161+15⋅160=32+15=4710

2324=2⋅42+3⋅41+2⋅40=32+12+2=4610

538=5⋅81+3⋅80=40+3=4310

4710+4610+4310=13610

Таким образом, 2F16+2324+538=13610

1. Перевод числа из десятичной системы счисления в другую позиционную систему

Представим десятичное число в общем виде N,M, где N - целая часть числа, а М - его дробная часть. Для перевода десятичного числа в позиционную систему счисления с основанием р необходимо воспользоваться двумя правилами: одно определяет технологию перевода целой части числа, а другое - дробной части.

Правило перевода целой части числа состоит из следующих этапов:

- число N делится на новое основание р;
- полученный остаток запоминается или записывается (это будет цифра младшего разряда);
- целая часть полученного частного снова делится на р;
- опять запоминаем полученный остаток (это будет цифра следующего разряда) и т. д.

Такое последовательное деление продолжается до тех пор, пока целая часть частного не окажется меньше, чем основание системы счисления р. Эта последняя целая часть частного будет цифрой старшего разряда. Результат формируется путем последовательной записи слева направо цифры старшего разряда и всех записанных остатков в порядке, обратном их получению.

Правило перевода дробной части числа состоит из следующих этапов:
- дробная часть числа умножается на основание р;

- запоминается или записывается цифра результата, переносимая в целую часть;

- оставшаяся дробная часть числа умножается на основание р;

- снова фиксируется цифра результата, переносимая в целую часть, и т. д.

Такое последовательное умножение продолжается до тех пор, пока в дробной части не будет получен ноль или достигнута требуемая точность, например 5 знаков после запятой. Результат формируется в виде последовательной записи зафиксированных цифр переносов в целую часть в том порядке, в котором они были получены.

Пример:

1) Переведем число 75 из десятичной системы в двоичную, восьмеричную и шестнадцатеричную:

Замечание: остаток 1110 записывается шестнадцатеричной цифрой B16.

Ответ: 7510=10010112=1138=4B16

2) Переведем число 0,8125 из десятичной системы в двоичную, восьмеричную и шестнадцатеричную:

Замечание: число 1310 записывается шестнадцатеричной цифрой D16.

Ответ: 0,812510=0,11012=0,648=0,D16

Для чисел, имеющих как целую, так и дробную части, перевод из десятичной системы счисления в другую осуществляется отдельно для целой и дробной частей по правилам, указанным выше. Необходимо отдельно преобразовать целую и дробную части числа и соединить их через запятую.

Пример:

Переведем число 194,125из десятичной системы в двоичную:

Ответ: 194,12510=110000010,0012

Для перевода восьмеричного числа в двоичное достаточно каждую цифру этого числа заменить двоичной триадой (три разряда) в соответствии с таблицей (если нужно, слева дописывается дополнительный ноль).

Пример:

734,468=111011100,1001102

Для перевода двоичного числа в восьмеричное следует воспользоваться следующим алгоритмом:

- разделить целую часть числа на триады от младших разрядов к старшим (влево от запятой);

- разделить дробную часть на триады в обратном направлении (вправо от запятой);

- заменить каждую триаду двоичных чисел соответствующей восьмеричной цифрой по таблице, предложенной выше;

- недостающие до триады позиции заполнить незначащими нуями.

Пример:

1010,111112=001010,1111102=12,768

Подобным свойством обладают и шестнадцатеричные цифры. Все шестнадцатеричные цифры (от 0 до F) можно записать при помощи четырех двоичных разрядов (тетрады) (см. таблицу выше).

Пример:

A0,F816=10100000,111110002

10101001,101112=10101001,101110002=A9, B816

Поразрядные способы перевода чисел можно использовать для сокращения действий при переводе числа, например, из десятичной системы в двоичную. Для этого целое число делением (дробное - умножением) сначала переводят в восьмеричную систему, а затем из восьмеричной системы поразрядно в двоичную систему.

Если в качестве промежуточной системы использовать двоичную, то существенно упрощается перевод из восьмеричной системы в шестнадцатеричную и обратно. Это показано в следующем примере.

Пример:

Дано: A8=275,034. НайтиA16

Решение:

A8=275,034

A2=010111101,000011100

A2=10111101,00001110

A16=BD,0E

Ответ: A16=BD,0E

1. Форматы представления чисел в компьютере

Для хранения чисел в памяти компьютера используется два формата: целочисленный (естественная форма) и с плавающей точкой (нормализованная форма) (точка — разделительный знак для целой и дробной части числа).

Целочисленный формат (формат с фиксированной точкой) используется для представления в компьютере целых (англ. integer) положительных и отрицательных чисел. Для этого, как правило, используются форматы, кратные байту: 1, 2, 4 байта.

В форме с фиксированной запятой числа изображаются в виде последовательности цифр с постоянным для всех чисел положением запятой (или точки), отделяющей целую часть от дробной.

Эта форма проста и привычна для большинства пользователей, но имеет небольшой диапазон представления чисел и поэтому не всегда пригодна при вычислениях. Если же в результате какой-либо арифметической операции получается число, выходящее за допустимый диапазон, то происходит переполнение разрядной сетки, и все дальнейшие вычисления теряют смысл.

Однобайтовое представление применяется только для положительных целых чисел. В этом формате отсутствует знаковый разряд. Наибольшее двоичное число, которое может быть записано при помощи 1 байта, равно 11111111, что в десятичной системе счисления соответствует числу 25510.

Для положительных и отрицательных целых чисел обычно используется 2 и 4 байта, при этом старший бит выделяется под знак числа: 0 - плюс, 1 - минус.

Самое большое (по модулю) целое число со знаком, которое может поместиться в 2-байтовом формате, это число 0111111111111111, то есть при помощи подобного кодирования можно представить числа от −32 76810 до 32 76710.

Обрати внимание!

Если число вышло за указанные границы, произойдет переполнение! Поэтому при работе с большими целыми числами под них выделяется больше места, например 4 байта.

Формат с плавающей точкой (нормализованная форма) используется для представления в компьютере действительных чисел (англ. real). Числа с плавающей точкой размещаются, как правило, в 4 или 8 байтах.

Нормализованная форма представления чисел обеспечивает огромный диапазон их записи и является основной в современных ЭВМ.

Представление целого положительного числа в компьютере

Для представления целого положительного числа в компьютере используется следующее правило:

- число переводится в двоичную систему;
- результат дополняется нулями слева в пределах выбранного формата;
- последний разряд слева является знаковым, в положительном числе он равен 0.

Например, положительное число +13510 в зависимости от формата представления в компьютере будет иметь следующий вид:
- для формата в виде 1 байта - 10000111 (отсутствует знаковый разряд);
- для формата в виде 2 байтов - 0000000010000111;
- для формата в виде 4 байтов - 00000000000000000000000010000111.

Представление целого отрицательного числа в компьютере

Для представления целого отрицательного числа в компьютере используется дополнительный код. Такое представление позволяет заменить операцию вычитания числа операцией сложения с дополнительным кодом этого числа. Знаковый разряд целых отрицательных чисел всегда равен 1.

Для представления целого отрицательного числа в компьютере используется следующее правило:

- число без знака переводится в двоичную систему;
- результат дополняется нулями слева в пределах выбранного формата;
- полученное число переводится в обратный код (нули заменяются единицами, а единицы - нулями);

- к полученному коду прибавляется 1.

Обратный код для положительного двоичного числа совпадает с его прямым кодом, а для отрицательного числа нужно во всех разрядах, кроме знакового, нули заменить единицами и наоборот.

Дополнительный код для положительного числа совпадает с его прямым кодом, а для отрицательного числа образуется путем прибавления 1 к обратному коду.

Отрицательное число может быть представлено в виде 2 или 4 байт.

Например, представим число −13510 в 2-байтовом формате:

- 13510  10000111 (перевод десятичного числа без знака в двоичный код);
- 0000000010000111(дополнение двоичного числа нулями слева в пределах формата);
- 0000000010000111  1111111101111000(перевод в обратный код);
- 1111111101111000  1111111101111001 (перевод в дополнительный код).

Представление вещественного (действительного) числа в компьютере

Вещественное число может быть представлено в экспоненциальном виде, например:

1600000010=0,16⋅108

−0,000015610=−0,156⋅10−4

В этом формате вещественное число (R) представляется в виде произведения мантиссы (m) и основания системы счисления (P) в целой степени (n), называемой порядком.

Представим это в общем виде, как: R=m⋅Pn.

Порядок n указывает, на какое количество позиций и в каком направлении должна сместиться в мантиссе точка (запятая), отделяющая дробную часть от целой. Мантисса, как правило, нормализуется, то есть представляется в виде правильной дроби 0 m  1.

Мантисса должна быть правильной дробью, у которой первая цифра после точки (запятой в обычной записи) отлична от нуля. Если это требование выполнено, то число называется нормализованным.

При представлении в компьютере действительного числа с плавающей точкой тоже используется нормализованная мантисса и целый порядок. И мантисса и порядок представляются в двоичном виде, как это было описано выше.

Для размещения вещественного числа обычно используется 2 или 4 байта.

В 2-байтовом формате представления вещественного числа первый байт и три разряда второго байта выделяются для размещения мантиссы, в остальных разрядах второго байта размещаются порядок числа, знаки числа и порядка.

В 4-байтовом формате представления вещественного числа первые три байта выделяются для размещения мантиссы, в четвертом байте размещаются порядок числа, знаки числа и порядка.

Чем больше разрядов отводится под запись мантиссы, тем выше точность представления числа.

Пример записи числа 6,2510=110,012=0,11001⋅211, представленного в нормализованном виде, в четырёхбайтовом формате с семью разрядами для записи порядка.