2.5. Количественное определение информации
Известно, что процесс познания имеет тенденцию переходить от качественного к количественному описанию. Например, Г. Галилей осознал, что вместо общепринятого понятия верх и низ (бытующего и в настоящее время) можно ввести более общее понятие - земное притяжение [93]. Пол века спустя Ньютон количественно обобщил гениальное прозрение Галилея до закона Всемирного тяготения и закона инерции. Коперник, Кеплер, Галилей построили умозрительную модель Солнечной системы. Позже тот же Ньютон дал математическое (количественное) описание траекторий движения всех известных тогда планет. Можно приводить ещё множество подобных примеров переходов от качественного описания объектов к количественным. Однако вернёмся к информации.
Попытки измерять количество информации предпринимались неоднократно. Но при измерении сложного объекта нужно чётко знать, что мы хотим измерить. Допустим, надо измерить слона. Что измерять? Массу, объём, форму, рост, длину кишечника, температуру тела? Очевидно, что сложный объект не может быть измерен каким-то одним стандартным методом. Каждый объект может быть охарактеризован множеством параметров (характеристик). Например, яблоко можно охарактеризовать весом, размером (формой), плотностью, вкусом, запахом, способностью к хранению, скороспелостью и т.п. Параметров может быть очень много и не все они поддаются формализации на языке математики. Если нет возможности измерить все, то надо измерить хотя бы какую-то часть объекта. Для этого реальный объект подменяют его моделью, лишенной многих нужных или не нужных свойств.
Спектры свойств объектов
Рис. 2.5.1. Иллюстрация способа сравнения свойств объектов
Например, яблоко можно охарактеризовать только весом, цветом и формой. В моделях информации содержится всегда меньше, чем в реальном объекте. Когда сравниваются два разных, родственных объекта, то сравнение осуществляется по их отдельным параметрам (рис.2.5.1). Сравнивая два автомобиля, мы обращаем внимание на различие цвета, мощности двигателя, объема салона и многое другое. Совокупность различий и составляет различие между автомобилями. Конечно, не все параметры при сравнении принимаются в расчет. Внимание обращается только на параметры, интересующие наблюдателя. Если не расчленять исследуемые объекты на элементы, то невозможно их сравнивать, но членение - дело субъективное. Алгоритм сравнения объектов лучше осуществлять по каждому параметру объекта отдельно.
скорость 1 скорость 2
масса 1 масса 2
мощность 1
мощность 2
Таким образом, корректное сравнение различных объектов осуществляется только по спектрам параметров.
Выше уже сообщалось, что Шеннон предложил измерять количество информации как меру достоверности передаваемого сигнала в битах. Для этого он использовал функцию, отдалённо напоминающую функцию энтропии Л.Больцмана [212]. Н.П. Рашевский В 1955 году предложил топологический подход для измерения количества информации. В 1965 году академик А.Н. Колмогоров предложил алгоритмическое определение количества информации [126]. Количество информации по Колмогорову определяется как минимальная длина программы, позволяющая однозначно преобразовать один объект (множество) в другой объект (множество). Чем больше различаются объекты, тем длиннее оказывается переход от одного к другому, тем больше разность количества информации между этими объектами. Метод Колмогорова не позволяет определять абсолютное количество информации, содержащейся в объекте, но может определять приращение информации. Этот метод универсален. Он может быть реализован, как для оценки функциональной информации, так и для оценки атрибутивной информации.
Ситуация с определением количества информации в чём-то напоминает ситуацию с определением внутренней энергии, содержащейся в веществе. Обычно полная внутренняя энергия неизвестна. Она может быть очень велика. Определяют только приращение энергии, происходящее при изменении состояния объекта [212]. Химики ограничиваются рассмотрением только энергии химических связей. Физики к этому могут приплюсовать энергию связей между нуклонами атомных ядер. Если идти дальше в глубь микромира, то каждый нуклон имеет свою внутреннюю энергию (связь между кварками, образующими нуклон). А далее возникает энергия вакуума и ещё неизвестно чего. А сколько же энергии в грамме вещества? Нет ответа. Приходится измерять высоту волн в океане, не зная его глубины, так как бездну измерить нельзя. Однако Демъянов В.В. считает, что эта бездна вполне измерима [82].
Но проблема
с измерением количества энергии это всё же пустяк, по сравнению с проблемой
измерения количества информации по Колмогорову. Все виды энергии можно измерять
известными единицами (джоуль, ватт, электрон-вольт). А какими единицами
измерять информацию, как перейти от одного разнообразия к другому? Как,
например, составить алгоритм перевода слона в мышь? Квадрат перевести в
треугольник ещё можно. А как перевести один цвет в другой или один запах в
другой? Кто станет возражать против того, что цвет и запах это тоже вид
информации. Все эти трудности привели в ходе эволюции к особым приёмам
переработки информации в человеческом мозге, которые можно назвать
моделированием и системным взглядом на мир. Этот вопрос уже рассматривался нами
в первой главе. Измерение информации носит признаки релятевизма
(относительности). Отсутствие нуля (абсолютной точки отсчета) делает все
сравнения относительными.
Очевидно,
что среда совершенно однородная может быть принята за отсутствие разнообразия.
Совершенно однородная среда (процесс) несет очень мало информации для
наблюдателя, но все-таки информация есть, т.к. сообщается сам факт присутствия
однородного объекта. Как видно, проблема нуля информации и бесконечности в общем виде не решена.
Решения имеются лишь в частных случаях (у Шеннона). Нечто похожее имеет место
в специальной теории относительности,
где для измерений и наблюдений нет начальной, неподвижной точки отсчета. Выбор
произвольной точки отсчета делает относительным понятие одновременности, темп
хода времени может изменяться и т.д. [23,
27, 36, 133, 182, 223].
Исходя из
введенного понятия «информационный пакет», возникает возможность измерять
атрибутивную информацию количеством и размерами
информационных пакетов в единице объема.
Бит как единица информации не привязан конкретно к виду информационного пакета. Поэтому можно содержание информации определять не абсолютно, а относительно каких либо конкретных информационных пакетов. Например, 10 коров и 10 домов могут содержать одинаковое количество информации с точки зрения субъекта. Хотя внутри этих информационных пакетов скрыто от наблюдателя огромное количество пока не нужной информации.
Информационный
пакет может быть принят за условную единицу количества атрибутивной информации.
Один пакет – одна единица независимо от сложности пакета. Нуклоны содержат три
единицы информации (3 кварка). Ядра атомов от одного до сотни единиц (нуклоны).
Клетка – сотни миллионов молекул и т.д. Подход явно субъективный, так как точка
отсчета количества информации принимается произвольно. Но там, где приходиться
оперировать с бесконечностями, другого выхода нет. Именно поэтому, согласно
теории систем, элемент системы выбирается произвольно. «Элементом сложной системы считается некоторая ее часть,
достаточная для понимания функционирования системы». Например, элемент автомобиля это карбюратор,
колесо, коленчатый вал, но не атом железа, который является материальной
основой всех перечисленных узлов. Элементом человека для анатома являются
внутренние органы. Для цитолога – клетки, для химика – белки. Любой объект
можно дробить на более мелкие части, но слишком большое дробление не внесет
ясности в понимание функционирования объекта, поэтому деление всегда
ограничивается некоторым элементом [30, 4]. Как видно, элемент системы и
информационный пакет – синонимы.
Существует еще проблема идентичности объектов. Если два объекта (события) неотличимы, имеющимися у наблюдателя средствами, то из этого не следует, что они идентичны. Порог различимости состояний зависит от очень многих условий. Неразличимость двух объектов по Колмогорову указывает на то, что в них содержится одинаковое количество информации. Однако усовершенствование методов наблюдения может позволить выявить отличия и тогда неизвестно, откуда появится новая информация. Помехи и шумы также маскируют различия между объектами (сигналами). Полное устранение шумов не возможно, поэтому идентичность объектов является условной, субъективной. В связи с выше изложенным, становится понятным, например, почему мы считаем, что все атомы водорода одинаковы, а молекулы воды и др. соединений неотличимы друг от друга. Это искусственный прием упрощения осуществляется с целью возможности описания. В противном случае из-за безграничного количества информации наши интеллектуальные системы не смогли бы перерабатывать ее и соответственно принимать решения. Фактически молекулы содержат разное количество движения и этим отличаются друг от друга. Мы замещаем объект его упрощенным образом – моделью и только это позволяет строить картину мира, хотя и в упрощенном варианте. Моделирование означает признание того, что в каждом объекте содержится если не бесконечное, то хотя бы неизмеримое количество информации.
Моделирование
- это ограничение разнообразия, упрощение до такого состояния, чтобы стал
понятен способ функционирования объекта. Теория систем является порождением необъятной сложности мира,
научным способом упрощения (Эшби). Но именно эти упрощенные способы восприятия
мира (информации) порождают
иллюзию того, что информация - это то,
что осталось после ограничения
разнообразия.
Выводы
1. Полное количество информации в некотором объекте измерить не возможно. Можно измерить различие в содержании информации двух разных объектов.
2. Нулевое количество информации выбирается условно.
3. Моделирование – это способ уменьшения (отсечения) информации.
4. Моделирование, как способ восприятия Мира, породил иллюзию, что модель и есть Мир (т.е. информация), а информация – это то, что осталось после ограничения разнообразия.
5. Объекты лучше сравнивать по спектрам их свойств.
6.
Количество информации в объекте можно характеризовать
количеством информационных пакетов выбранного произвольного уровня, входящих в
объект. Один пакет - один бит.