Загрузка...
Учебная работа. Реферат: Подходы к измерению количества информации. Мера Хартли
Современная наука о свойствах инфы и закономерностях информационных действий именуется теорией инфы. Содержание понятия «информация» можно раскрыть на примере 2-ух исторически первых подходов к измерению количества инфы: подходов Хартли и Шеннона: 1-ый из их основан на теории множеств и комбинаторике, а 2-ой — на теории вероятностей.
информация может пониматься и интерпретироваться в разных дилеммах, предметных областях по-разному. Вследствие этого, имеются разные подходы к определению измерения инфы и разные методы введения меры количества инфы.
Количество инфы — числовая величина, правильно характеризующая актуализируемую информацию по обилию, трудности, структурированности (упорядоченности), определенности, выбору состояний отображаемой системы.
Если рассматривается некая система, которая может принимать одно из n вероятных состояний, то животрепещущей задачей является задачка оценки этого выбора, финала. Таковой оценкой может стать мера инфы (действия).
Мера — непрерывная действительная неотрицательная функция, определенная на огромном количестве событий и являющаяся аддитивной (мера суммы равна сумме мер).
Меры могут быть статические и динамические, зависимо от того, какую информацию они разрешают оценивать: статическую (не актуализированную; по сути оцениваются сообщения без учета ресурсов и формы актуализации) либо динамическую (актуализированную т.е. оцениваются также и Издержки ресурсов для актуализации инфы).
Есть разные подходы к определению количества инфы. Более нередко употребляются последующие два метода измерения инфы: объёмный и вероятностный.
Объёмный подход
Употребляется двоичная система счисления, поэтому что в техническом устройстве более просто воплотить два обратных физических состояния: намагничено / не намагничено, вкл./выкл., заряжено / не заряжено и др.
Объём инфы, записанной двоичными знаками в памяти компа либо на наружном носителе инфы, подсчитывается просто по количеству требуемых для таковой записи двоичных знаков. При всем этом невозмож¬но нецелое число битов.
Для удобства использования введены и наиболее большие, чем бит, единицы если¬чества инфы. Так, двоичное слово из восьми символов содержит один б инфы, 1024 б образуют кб (кбайт), 1024 кб – мб (Мбайт), а 1024 мб — гб (Гбайт).
Энтропийный (вероятностный) подход
Этот подход принят в теории инфы и кодировки. Данный метод измерения исходит из последующей модели: получатель сообщения имеет определённое случае недостоверны и выражаются вероятностями, с которыми он ждет то либо другое событие. Общая мера неопределённостей именуется энтропией. Энтропия характеризуется некой математической зависимостью от совокупы вероятности пришествия этих событий.
количество инфы в сообщении определяется тем, как уменьшилась эта мера опосля получения сообщения: чем больше энтропия системы, тем больше степень её неопределённости. Поступающее сообщение вполне либо отчасти снимает эту неопределённость, как следует, количество инфы можно определять тем, как понизилась энтропия системы опосля получения сообщения. За меру количества инфы принимается та же энтропия, но с оборотным знаком.
Иными, наименее известными методами измерения инфы являются:
Алгоритмический подход. Потому что имеется много разных вычислительных машин и языков программирования, т.е. различных методов задания метода, то для определённости задаётся некая определенная машинка, к примеру машинка Тьюринга. Тогда в качестве количественной свойства сообщения можно взять малое число внутренних состояний машинки, требующихся для проигрывания данного сообщения.
Семантический подход. Для измерения смыслового содержания инфы, т.е. её количества на семантическом уровне, наибольшее признание получила тезаурусная мера (тезаурус — совокупа сведений, которыми располагает пользо¬ватель либо система), которая связывает семанти¬ческие характеристики инфы со способностью юзера принимать поступившее сообщение.
Прагматический подход. Эта мера описывает полезность инфы (Ценность) для заслуги юзером поставленной цели.
В базе всей теории инфы лежит открытие, изготовленное Р. Хартли в 1928 году, и состоящее в том, что информация допускает количественную оценку.
Подход Р. Хартли основан на базовых теоретико–множественных, по существу комбинаторных основаниях, также нескольких интуитивно ясных и полностью тривиальных догадках.
Если существует огромное количество частей и осуществляется выбор 1-го из их, то сиим самым сообщается либо генерируется определенное количество инфы. Эта информация заключается в том, что если до выбора не было понятно, какой элемент будет избран, то опосля выбора это становится известным. нужно отыскать вид функции, связывающей количество инфы, получаемой при выбирании некого элемента из огромного количества, с количеством частей в этом огромном количестве, т.е. с его мощностью.
Если огромное количество частей, из которых осуществляется выбор, состоит из 1-го–единственного элемента, то ясно, что его выбор предопределен, т.е. никакой неопределенности выбора нет — нулевое количество инфы.
Если огромное количество состоит из 2-ух частей, то неопределенность выбора мала. В этом случае мало и количество инфы.
Чем больше частей в огромном количестве, тем больше неопределенность выбора, тем больше инфы.
количество этих чисел (частей) в огромном количестве равно:
N = 2i
Из этих тривиальных суждений следует 1-ое требование: информация есть однообразная функция от мощности начального огромного количества.
Выбор 1-го числа дает нам последующее количество инфы:
i = Log2(N)
Таковым образом, количество инфы, содержащейся в двоичном числе, равно количеству двоичных разрядов в этом числе.
Это выражение и представляет собой формулу Хартли для количества инфы.
При увеличении длины числа вдвое количество инфы в нем также обязано возрасти вдвое, невзирая на то, что количество чисел в огромном количестве увеличивается при всем этом по показательному закону (в квадрате, если числа двоичные), т.е. если
N2=(N1)2,
то
I2 = 2 * I1,
F(N1*N1)= F(N1) + F(N1).
Это нереально, если количество инфы выражается линейной функцией от количества частей в огромном количестве. Но известна функция, владеющая конкретно таковым свойством: это Log:
Log2(N2) = Log2(N1)2= 2 * Log2(N1).
Это 2-ое требование именуется требованием аддитивности.
Таковым образом, логарифмическая мера инфы, предложенная Хартли, сразу удовлетворяет условиям монотонности и аддитивности. Сам Хартли пришел к собственной мере на базе эвристических суждений, схожих лишь что изложенным, но в истинное время строго подтверждено, что логарифмическая мера для количества инфы совершенно точно следует из этих 2-ух постулированных им критерий.
Пример. Имеются 192 монеты. Понятно, что одна из их — липовая, к примеру, наиболее легкая по весу. Определим, сколько взвешиваний необходимо произвести, чтоб выявить ее. Если положить на весы равное количество монет, то получим 3 независящие способности: а) левая чашечка ниже; б) правая чашечка ниже; в) чашечки уравновешены. Таковым образом, каждое взвешивание дает количество инфы I=log23, как следует, для определения липовой монеты необходимо создать не наименее k взвешиваний, где меньшее k удовлетворяет условию log23k log2192. Отсюда, k 5 либо, k=4 (либо k=5 — если считать за одно взвешивание и крайнее, явное для определения монеты). Итак, нужно создать не наименее 5 взвешиваний (довольно 5).
2. Социальные нюансы информатики.
термин “социальные нюансы” применительно к большей части наук, тем наиболее базовых, звучит удивительно. Навряд ли фраза “Социальные нюансы арифметики” имеет смысл. Но, информатика – не только лишь наука.
И впрямь, не много какие причины так влияют на социальную сферу обществ (очевидно, находящихся в состоянии относительно размеренного развития, без войн и катастроф) как информатизация. Информатизация общества – процесс проникания информационных технологий во все сферы жизни и деятельности общества. Почти все социологи и политологи считают, что мир стоит на пороге информационного общества. В. А. Извозчиков дает последующее определение: “Будем осознавать под термином “информационное” (“компьютеризированное”) общество то, во все сферы жизни и деятель членов которого включены комп, телематика, остальные средства информатики в качестве орудий умственного труда, открывающих широкий доступ к сокровищам библиотек, позволяющих с большой скоростью проводить вычисления и перерабатывать всякую информацию, моделировать настоящие и предсказуемые действия, процессы, явления, управлять созданием, заавтоматизировать обучение и т.д.”. Под “телематикой” понимаются службы обработки инфы на расстоянии (не считая обычных телефона и телеграфа).
Крайние полста лет информатизация является одной из обстоятельств перетока людей из сферы прямого вещественного производства в, так именуемую, информационную сферу. Промышленные рабочие и фермеры, составлявшие посреди XX века наиболее 2/3 населения, сейчас в продвинутых странах составляют наименее 1/3. Все больше тех, кого именуют “белоснежные воротнички” – людей, не создающих вещественные ценности конкретно, а занятых обработкой инфы (в самом широком смысле): это и учителя, и банковские служащие, и программеры, и почти все остальные группы работников. Возникли и новейшие пограничные специальности. Можно ли именовать рабочим программера, разрабатывающего программки для станков с числовым программным управлением? – По ряду характеристик можно, но его труд не физический, а умственный.
Информатизация наисильнейшим образом влияет на структуру экономики ведущих в экономическом отношении государств. В их числе фаворитных отраслей индустрии классические добывающие и обрабатывающие отрасли оттеснены очень наукоемкими производствами электроники, средств связи и вычислительной техники (так именуемой, сферой больших технологий). В этих странах повсевременно вырастают финансовложения в исследования, включая фундаментальные науки. Темпы развития сферы больших технологий и уровень прибылей в ней превосходят в 5-10 раз темпы развития обычных отраслей производства. Таковая политика имеет и социальные последствия – повышение потребности в высокообразованных спецах и связанный с сиим прогресс системы высшего образования. Информатизация меняет и вид обычных отраслей индустрии и сельского хозяйства. Промышленные боты, управляемые ЭВМ , станки с ЧПУ стали обыденным оборудованием. Новые технологии в сельскохозяйственном производстве не только лишь наращивают производительность труда, да и упрощают его, вовлекают наиболее образованных людей.
Чудилось бы, компьютеризация и информационные технологии несут в мир одну только благодать, но соц сфера настолько сложна, что последствия хоть какого, даже еще наименее глобального процесса, изредка бывают конкретными. Разглядим, к примеру, такие социальные последствия информатизации как рост производительности труда, интенсификацию труда, изменение критерий труда. Все это, с одной стороны, улучшает условия жизни почти всех людей, увеличивает степень вещественного и умственного удобства, провоцирует рост числа высокообразованных людей, а с иной – является источником завышенной социальной напряженности. к примеру, возникновение на производстве промышленных ботов ведет к полному изменению технологии, которая перестает быть направленной на человека. Тем изменяется номенклатура профессий. Значимая часть людей обязана поменять или специальность, или пространство работы – рост передвижения населения характерен для большинства продвинутых стран. люди управляются с сопутствующим стрессом . Прогрессом информатики порожден и иной довольно страшный для демократического общества процесс – все большее количество данных о любом гражданине сосредоточивается в различных (муниципальных и негосударственных) банках данных. Это и данные о проф карьере (базы данных отделов кадров), здоровье (базы данных учреждений здравоохранения), имущественных способностях (базы данных страховых компаний), перемещении по миру и т.д. (не говоря уже о тех, которые накапливают особые службы). В любом определенном случае создание банка быть может оправдано, но в итоге возникает система неслыханной ранее ни в каком тоталитарном обществе прозрачности личности, чреватой вероятным вмешательством страны либо злоумышленников в личную жизнь. Одним словом, жизнь в “информационном обществе” легче, по-видимому, не становится, а вот то, что она существенно изменяется – непременно.
]]>