Введение в кибернетику - Эшби У.Р.
Скачать (прямая ссылка):
Значит, два шага должны иметь неопределенность, или разнообразие, в 2 бита; и так оно и есть2 ибо следующие два шага могут быть ГГ, ГР, РГ или РР с вероятностями \и что дает Я = 2 бита. Короче
говоря, энтропия некоторого участка цепи Маркова пропорциональна его длине (все время предполагается, что цепь достигла равновесия).
Совершенно другой способ измерения энтропии цепи вводится при рассмотрении того, как быстро во времени цепь образуется каким-либо реальным физическим процессом. До сих пор эта сторона дела игнорировалась, и измерение производилось только в терминах шагов самой цепи. Введение новой шкалы требует только простого правила пропорций. Например, если (как в § 9/12) «единица времени» насекомого для одного шага оавна 20 секундам, то каждые 20 секунд дают 0,84 бита, а
60 секунд дадут —— бита. Таким образом, каждое
насекомое создает разнообразие своего местоположения со скоростью 2,53 бита в минуту.
Такая скорость служит наиболее естественным способом измерения пропускной способности канала. Канал — это просто любая система, которая своим входом может приводиться в каждый момент в одно из некоторого разнообразия состояний и которая может передавать это состояние какому-то получателю. Скорость этой передачи
17 Зак. 3346. У. Росс Эшби
258 ГЛАВА 9. НЕПРЕКРАЩАЮЩАЯСЯ ПЕРЕДАЧА 9/1*
зависит как от скорости, с которой шаги следуют друг за другом, так и от разнообразия, получаемого на каждом шаге.
Заметим, что понятие «канал» определяется в кибернетике исключительно в терминах наличия между двумя точками определенных поведенческих отношений; если между точками имеют место такие отношения, то между ними существует канал — совершенно независимо от того, можно ли усмотреть между ними какую бы то ни было материальную связь. (Рассмотрите, например, упр. 4/15/2, 6/7/1.) В силу этого каналы, которые видит кибернетик, могут значительно отличаться от каналов, которые видит специалист в другой области. В простейших случаях это достаточно очевидно. Никто не отрицает реальности некоторой функциональной связи магнита с магнитом, хотя ни один эксперимент не обнаружил до сих пор между ними никакой промежуточной структуры.
Иногда канал может идти по необычному пути. Так, мозгу требуется информация о том, что происходит после того, как он послал «команду» некоторому органу; обычно от органа к мозгу идет чувствительный нерв, который несет «контрольную» информацию. Так, контроль за голосовыми связками может осуществляться чувствительным нервом, идущим от связок в мозг. Эффективного контроля можно достичь и без помощи какого-либо нерва в шее, а лишь используя звуковые волны, идущие по воздуху и связывающие голосовые связки с мозгом через ухо. Для анатома это не будет каналом, а для инженера-связиста — будет. Здесь мы просто должны понять, что каждый из них прав внутри своей отрасли науки.
Существуют и более сложные применения этого принципа. Предположим, что мы спрашиваем кого-нибудь, будет ли 419X287 равняться 118 213; по-видимому, он ответит: «Я не могу сделать это в уме, дайте мне карандаш и бумагу». Используя в качестве параметров оба числа 419 и 287 вместе с операцией «умножения», он затем начнет процесс (переходный процесс, по терминологии § 4/5), который породит ряд импульсов, проходящих по нервам его руки, порождая ряд карандашных значков на бумаге; затем эти значки воздействуют на его сетчатку и так далее вплоть до его мозга, где осу
ЭНТРОПИЯ
ж
ществится взаимодействие со следом (что бы это ни было) числа 118 213; затем он даст окончательный ответ. Нам здесь нужно отметить, что этот процесс — от мозга через двигательную область коры, руку, карандаш, значки, световые лучи, сетчатку и зрительную область коры обратно к мозгу — для инженера-связиста есть типичный «канал», связывающий «передатчик» с «приемником». Следовательно, для кибернетика белое вещество и прочие волокна не являются единственными каналами связи в мозгу; некоторые связи между частями могут осуществляться через окружающую среду. 9/16. Избыточность. В § 7/14 было сказано, что из ограничений разнообразия всегда можно извлечь какую-нибудь пользу. Этот тезис можно иллюстрировать случаем непрекращающейся передачи.
Для простоты рассмотрим еще раз огни светофора — красный, зеленый и желтый, — допускающие только четыре комбинации:
1) красный;
2) красный и желтый;
3) зеленый;
4) желтый.
Каждая составляющая (лампа или цвет) может быть зажжена или не зажжена, так что при независимых составляющих общее возможное разнообразие состояло бы из 8 состояний. В действительности же используется только 4 комбинации, так что данное множество обнаруживает ограничение разнообразия.
Рассмотрим теперь эти факты снова, исходя из того, что нам необходимо множество из четырех следующих сигналов:
1) стой;
2) готовься ехать;
3) можно ехать;
4) готовься остановиться.
Если у нас имеются составляющие, каждая из которых может принимать два значения (+ или —), то мы можем спросить, сколько таких составляющих необходимо для того, чтобы обеспечить это разнообразие. Ясно, что две;
