Техника - молодёжи 2009-09, страница 56
Клуб любителей фантастики ZOQ9 NPQ3 ТМ Вероятность ошибки Андрей КРАСНОБАЕВ \ ч ч ч \ V \ \ 1W\ \ - История создания андроидов вымощена десятками человеческих жизней, сложенными на алтарь собственных ошибок, пустых надежд и переоценённых возможностей. Этой дежурной фразой Эл начинал свою двухчасовую лекцию, посвященную взаимоотношениям человека и машины. Несколько лет назад сто сняли с полётов, отправив делиться опытом в Московский университет астронавтики. Здесь готовили будущих штурманов и пилотов звёздных кораблей. ■ Пытаясь уйти от ошибок, вызванных человеческим фактором, люди старательно развивали технику, перекладывая на машины всю ответственность за собственные жизни. При этом забывая один небольшой, но очень важный момент. Слабый, по своей сути, и склонный к ошибкам человек никогда не сможет создать идеальную машину. Все промахи, просчёты и недоделки, невольно вложенные в своё создание, он стыдливо называет вероятностью ошибки. Неверное поведение андроидов в нештатных ситуациях, повлёкшее человеческие жертвы, заставило пересмотреть их роль, внеся серьёзные коррективы в основные законы поведения. В качестве примера Эл всегда подробно разбирал один из подобных случаев. Это произошло более трёх лет назад. Звёздный корабль с исследовательской группой на борту после трёх месяцев пути вплотную приблизился к заданной цели. Прямо по курсу лежала недавно открытая планета. По мнению многих учёных, она была вполне пригодна для жизни. В состав группы, помимо девяти человек входил андроид серии R03 I-AL9082. Выполняя обязанности техника и помощника капитана, он отвечал за жизнеспособность корабля. Вероятность ошибки в действиях подобных андроидов составляла всего лишь один процент. То есть в одном случае из ста он мог поступить неверно. Уже выходя на орбиту, они случайно столкнулись с метеоритом. Вынырнув из чёрной пустоты, космическое тело размером с футбольный мяч насквозь прошило обшивку корабля. Была нарушена герметизация, выведен из строя спасательный катер и почти все системы управления. Согласно трём основным законам поведения, андроид никогда не сможет причинить вред человеку. Жизнь человека для него бесценна, и ничто не сможет нарушить дан1 ное утверждение. Опираясь на эти законы, андроид пришёл к единственному выводу. Дальнейшая сохранность жизни людей напрямую зависела от жизнеспособности корабля. Включив ручное управление, андроид посадил корабль на поверхность планеты. Этих роботов создавали с прицелом именно на такие моменты. В критической ситуации, когда счёт идёт буквально на секунды, даже подготовленный человек часто впадает в панику. Работающий по заданной программе андроид, быстро просчитав все возможные варианты, действует стремительно и практически безошибочно. Прибывшая через несколько месяцев команда спасателей обнаружила почти полностью отремонтированный корабль. Из всей группы уцелел лишь один андроид. Действуя согласно заданной программе, он полностью восстановил обшивку, вернув работоспособность всем системам. Как потом показало проведённое расследование, люди погибли ещё при посадке. Выключившаяся система торможения и компенсации плюс незначительная ошибка в расчёте глиссады. Перегрузка в несколько десятков g просто размазала человеческие тела в неработающих амортизационных креслах. У андроида не было программы, позволяющей отличить мёртвого человека от живого. Даже не подозревая, что вся команда мертва, андроид ремонтировал корабль, послушно следуя своей основной программе. В аудитории стояла напряжённая тишина. Эл был хорошим рассказчиком. Передавая в мельчайших деталях картину происшедшего, он вызывал у слушателей чувство причастности и сопереживания. - Прежде чем мы перейдём к обсуждению, хочу внести ясность, — заложив руки за спину, Эл не торопясь прошёлся перед аудиторией, — этот андроид был заурядной машиной со своим процентом вероятности ошибки. Так что не стоит удивляться тому, что он просчитался. Те, кто расследовал этот случай, были простыми людьми. Они не стали принимать во внимание вероятность ошибки, обвинив во всём андроида. - Вам не кажется это циничным, рассуждать о вероятности ошибки андроида, забывая, что за ней стоят человеческие жизни? — кто-то эмоционально выкрикнул с места. Эл усмехнулся. - Если машина, Созданная руками человека, начинает действовать неправильно, то чья в этом вина? — чуть излишне громко спросил он. Аудитория притихла. - Вероятность подобной ошибки в своё творение заложил сам человек. Вернее, он не смог её исключить. А когда это произошло, обвинили во всём андроида. Так я повторю, чья в этом вина? Студенты молча переглядывались. Выдержав небольшую паузу, Эл окинул взглядом аудиторию. - В свете изложенных фактов предлагаю всем подумать и ответить, чем опасны андроиды для человека? 54 |
