Техника - молодёжи 1962-04, страница 38

Слово молодым: выступают члены литературного объединения журнала

ГОРОДА В ОКЕАНЕ

„

РОЖДЕНИЕ ОДНОЙ ИДЕИ

комбинации, которые раньше против нее удавались, потеряют свою ценность. Более того, со временем машина может изучать манеру игры своего противника.

Многие формы борьбы, которые мы обычно не рассматриваем как игру, тем не менее можно изучать с точки зрения теории играющих машин. Одним из интересных примеров является борьба между мангустой и коброй. Как указывает Киплинг в своем рассказе «Рикки-Тнкки-Тави», укус змеи для мангусты является смертельным, несмотря на то, что ее тело покрыто жесткой шерстью, которую кобра прокусывает с трудом. Как указывает Киплинг, эта борьба является своего рода пляской смерти, борьба, в которой проявляется мускульная сила и сообразительность. Нет никаких оснований предполагать, что индивидуальные движения мангусты являются более быстрыми и более точными, чем у кобры. Тем не менее в подавляющем большинстве случаев мангуста побеждает кобру. Как она это делает?

Здесь я об этом рассказываю на основании того, что я видел сам и что можно видеть в кино. Я не берусь гарантировать безукоризненность своей интерпретации. Мангуста начинает со сложного выпада, который заставляет змею подниматься. Мангуста отскакивает и делает второй такой выпад так, что в действительности мы имеем серию ритмических движений, выполняемых обоими животными. Однако этот танец не является монотонным, он постепенно развивается, и по мере того как идёт борьба, выпады мангусты все больше и больше опережают выпады кобры. И так происходит до тех пор, пока, наконец, мангуста не совершает смертельное нападение в то время, когда кобра вытянута настолько, что больше не может достаточно быстро реагировать на выпады. В это мгновение атака мангусты не является ложной, она смертельно точна, и зубы прокусывают череп змеи.

В течение боя мангуста действует как обучающаяся машина, и успех ее атаки определяется более высокоорганизованной нервной системой.

Бой быков представляет второй пример такого же типа. Необходимо помнить, что бой быков является не спортом, а пляской смерти, «прелесть» которой проявляется в координированной взаимосвязи между поведением быка и человека.

Все, что я сказал относительно борьбы мангусты и кобры, тореадора и быка, относится также к любым физическим соревнованиям человека с человеком. То, что справедливо для физических соревнований, еще в большей степени справедливо для соревнований, в которых элементы интеллекта проявляются в большей степени: например, в военных играх, в которых штабные офицеры приобретают навыки военного искусства. Некоторая степень машинизации подобно той, которую используют для игры в шашки путем обучения машины, возможна и здесь.

Нет ничего более опасного, чем планировать третью мировую войну. Интересно рассмотреть, может ли какая-то часть этой опасности возникнуть из-за бесконтрольного использования обучающихся машин. Снова и снова мне приходится слышать утверждение, что обучающаяся машина не может подвергнуть нас никакой опасности, потому что в решитель-

ИТЯЙТ1 1Л1ТРЛ В HiMIPE

ныи момент, когда мы это почувствуем, мы ее просто выключим. Можем ли мы это сделать? Для того чтобы своевременно выключить машину, мы должны обладать информацией, что действительно опасный момент наступил.

Один уже тот факт, что машину изготовили люди, доказывает, что нет никакой гарантии, что у нас будет достаточно информации это сделать. Теперь уже всем известно, что играющая в шашки машина может обыграть человека, который ее запрограммировал, после сравнительно короткого промежутка времени. Более того, сама скорость работы современных вычислительных машин препятствует тому, чтобы мы были в состоянии своевременно почувствовать и осознать признаки надвигающейся опасности.

Идея устройства, обладающего большим могуществом и выдающимися способностями осуществлять какую-либо стратегию, а также опасность таких устройств не новы. Новым является то, что мы фактически уже обладаем этими устройствами. В прошлом подобные возможности преподносились в форме чародейства, и это стало темой для многих легенд и народных сказок. В этих легендах тщательно исследована моральная сторона колдовства. Я уже обсуждал некоторые этические аспекты чародейства в одной из ранних книг («Человеческое использование человеческого ума»). Здесь я повторяю часть материала с целью более точно вскрыть содержание понятия «обучающаяся машина».

Особенно страшным является фантастический рассказ английского писателя начала XX столетия У. Джакобса об обезьяньей лапе. Ушедший на пенсию английский рабочий сидит за столом вместе со своей женой и приятелем, английским сержантом, вернувшимся из Индии. Сержант показывает хозяевам амулет в виде высохшей, сморщенной обезьяньей лапы. Этот амулет ему подарил индийский священник, который хотел показать безнадежность борьбы с судьбой и который гарантировал выполнение любых трех желаний любым трем людям. Солдат рассказывает, что он ничего не знает о первых двух желаниях прежнего владельца, но что третьим его желанием была смерть. Он рассказывает своим друзьям, что является вторым владельцем амулета, но он не хочет говорить об ужасах, которые он с ним пережил. Солдат бросает обезьянью лапу в камин, однако его друг выхватывает ее и заявляет, что хочет испытать могущество амулета. Первым его желанием было получить 200 фунтов стерлингов. Вскоре после этого послышался стук в дверь, и в ней появился представитель компании, в которой работал сын хозяина. Отец узнает, что его сын погиб на заводе и что компания, не считая себя виновной в его гибели, без каких бы то ни было юридических обязательств решила выплатить отцу 200 фунтов стерлингов. Убитый горем отец произносит свое второе желание, чтобы его сын вернулся. И тогда слышится снова стук в дверь, и она открывается. В ней появляется что-то, о чем мы узнаем из очень скупых слов, — в ней появляется призрак сына. Последним желанием отца было, чтобы призрак исчез.

Общим для всех историй о магии и колдовстве является то, что магические действия выполняются буквально. И если мы ждем от магии какого-либо благодеяния, мы должны просить именно то, что мы хотим, а не то, что мы думаем, что мы хотим. Новым, реальным качеством обучающихся машин является то, что они тоже выполняют наши требования буквально. Если мы программируем машине выиграть войну, мы должны хорошенько подумать над тем, что мы понимаем под выигрышем войны. Обучающаяся машина программируется на основе опыта. Опыт атомной войны, которая не приведет к катастрофе, можно почерпнуть только из военных игр. Если мы будем использовать этот опыт для разработки машинной стратегии на случай реальной опасности, смысл победы, которую мы имели в виду, программируя военную игру, должен быть точно тот же, который мы чувствуем сердцем в действительной войне. В этом мы можем ошибиться лишь ценой внезапной, всеобщей и непоправимой беды. Нельзя думать, что машина будет, подобно нам, способной к различного рода предрассудкам и эмоциональным компромиссам, позволяющим нам гибель называть победой. Если мы от машины просим победу, не зная, что мы под ней подразумеваем, мы можем обнаружить, что в дверь постучится призрак.