Энтропия и информация

При рассмотрении процесса передачи тепла от более нагретого к менее нагретому телу было введено понятие энтропии. Этот процесс необратим, и энтропия служит мерой его необратимости. Физическая причина необратимости — переход от состояния, характеризуемого упорядоченным распределением какой-либо физической величины, к состоянию беспорядка, и, следовательно, энтропия — это количественная мера возникающего беспорядка. Последнее обстоятельство позволяет использовать понятие энтропии более широко: для характеристики и анализа любых необратимых процессов в окружающем нас мире, в том числе связанных с деятельностью человека, который является частью природы и часто вносит в нее необратимые изменения.

С технической и научной точки зрения XX век поставил перед человечест­вом три наиболее значительных проблемы: проблему энергетики, проблему обработки и передачи информации и, наконец, проблему экологии — борьбы с загрязнением окружающей среды. Эти проблемы тесно связаны друг с другом и иногда, успешно решая одну из них, мы ухудшаем состояние двух других. Поэтому необходимо уметь оценивать все стороны того или иного технического решения, количественно рассчитывать не только выигрыш, получаемый от реализации этого решения, но и плату за него. Одной из величин, которые позволяют производить такие расчеты, является энтропия.

В 1948 г. американский инженер К. Шеннон заметил, что проблемы передачи и обработки информации имеют много общего с проблемами статистической физики и могут быть описаны на том же языке с помощью понятия энтропии. Под информацией обычно понимается сообщение, содержащее элемент новизны. Оно может быть передано по каналам связи посредством сигналов, имеющих различную физическую природу. Для передачи сигналов могут использоваться электромагнитные волны радиодиапазона или видимого света (оптическая связь) или звуковые волны (акустическая связь). Помехи, которые имеются в линиях связи, приводят к искажению сигналов. Кроме того, сигналы могут искажаться при их преобразовании в устройствах, используемых в линиях связи. Все это приводит к тому, что передаваемый сигнал приходит по назначению не с достоверностью, а с некоторой конечной вероятностью. Вероятность получения сигнала зависит от способов и условий передачи информации и может быть рассчитана. Механизм передачи информации можно сравнить с движением молекулы в газе, испытывающей множество случайных столкновений, в результате которых можно указать только вероятность ее прихода в заданную точку пространства.

По аналогии со статистической физикой случайный беспорядок, возникающий в системе передаваемых сигналов, характеризуется с помощью энтропии системы, которая пропорциональна логарифму вероятности прихода сигнала. С помощью таким образом введенной энтропии можно определить и количество информации, содержащееся в переданном сообщении. Развитие этих представлений привело к созданию новой самостоятельной науки — теории информации, которая, в свою» очередь, легла в основу науки об управлении сложными системами — кибернетики.

Другая проблема, в которой широко используется понятие энтропии, — это проблема экологии. Необратимые изменения в окружающей среде, возникающие в процессе человеческой деятельности, также подчиняются законам термодинамики. Их отличие, правда, состоит в том, что мир, в котором мы существуем, представляет собой не замкнутую, а открытую систему, постоянно взаимодействующую со всей Вселенной путем энерго- и массообмена. Термодинамика такой открытой системы очень сложна, и поэтому выводы, следующие из рассмотренной термодинамики замкнутой системы, к ней неприменимы. Однако методы рассмотрения, основанные на статистическом подходе, остаются прежними и позволяют сделать важные заключения о процессах, происходящих в живой природе.

Характерным примером здесь является процесс теплообмена Земли с окружающим пространством. Если рассматривать часть Вселенной, которой принадлежит наша планета, как совокупность физических объектов, образующих замкнутую систему, то согласно обычной термодинамике она неизбежно должна прийти в состояние теплового равновесия, в котором все тела имеют одинаковую температуру; процессов переноса тепла от более нагретых тел к менее нагретым не существует — возникает состояние «тепловой смерти». В открытой системе заключение о неизбежной тепловой смерти системы неправомерно — в такой системе происходит бесконечный теплообмен с окружающей средой. Кроме того, в системах, бесконечных в пространстве и времени, к которым относится наша Вселенная, нельзя исключить возникновения процессов, которые имеют малую вероятность и не могут происходить в замкнутых системах.

Значительные изменения в окружающую среду вносит деятельность человека. Технический прогресс и рост промышленного производства привел к тому, что результаты человеческой деятельности стали отрицательно влиять на состояние природы планеты. Повышается средняя температура атмосферы — происходит так называемое «тепловое загрязнение» атмосферы, изменяется ее химический состав, меняется состав недр Земли, ухудшается состояние водных ресурсов и поверхности Земли, возникает радиоактивное заражение поверхности, начинают изменяться в нежелательном направлении условия биологического существования. Все это требует принятия срочных мер по более рациональному развитию производительных сил.

С точки зрения термодинамики, деятельность человека, во-первых, имеет направленный, организующий характер, ведь в конечном счете цель человеческой деятельности — превращение окружающего мира в упорядочение работающую систему. Этот процесс организации среды приводит к уменьшению беспорядка и, следовательно, к уменьшению энтропии. Таким образом, деятельность человека, строго говоря, «работает» против второго начала термодинамики. Во-вторых, продукты этой деятельности — отходы в виде неиспользованного тепла, химические отходы и другие неполезные продукты деятельности — приводят к загрязнению окружающей среды, тем самым увеличивая энтропию всей системы. Проблема экологии и заключается в том, чтобы в процессе человеческой деятельности минимально увеличивать энтропию окружающей среды.