Айзек Азимов - Три закона робототехники

    В литературе спокон веков бунтуют роботы. Бунтовали джинны и ифриты арабских сказок, взбунтовался Голем – глиняное детище хитроумного Бен Бецалеля. И даже настоящие роботы, созданные гением Карела Чапека, вышли из повиновения, едва успев родиться из-под пера писателя. Положение стало настолько серьезным, что проблема бунтующих роботов перекочевала со страниц художественной литературы на страницы научных статей и монографий. Сам Норберт Винер счел необходимым предостеречь человечество от возможных последствий чрезмерной самостоятельности роботов.

    Спасение пришло с неожиданной стороны. Американский писатель и ученый Айзек Азимов сформулировал свои знаменитые Три Закона роботехники (собственно, правильнее было бы говорить “роботологии” или, как утвердилось в современной науке, “робототехники”, но теперь уже поздно исправлять эту неточность перевода). Законы Азимова с поистине фантастической быстротой получили всемирное признание, и с той поры ни один робот не сходил с конвейера, то бишь с барабанов типографской машины, без того, чтобы в его мозг (заметьте, у робота обязательно должен быть мозг!) не были заложены пресловутые Три Закона. Наконец-то человечество смогло вздохнуть свободно. Будущее сосуществование с легионами покорных роботов представлялось вполне безоблачным.

    А что думает по этому поводу сам творец Законов роботехники? Лучший ответ на этот вопрос можно получить, прочтя предлагаемый читателю сборник.

    Начнем с самого первого рассказа из цикла “Я, робот”. У маленькой девочки есть робот-нянька. Девочка привязалась к роботу, но, по мнению мамы, эта привязанность вредит правильному воспитанию ребенка. И хотя папа придерживается иного мнения, после долгих семейных дискуссий робота отправляют обратно на фабрику. Девочка грустит, возникает опасность серьезной душевной травмы, и робот возвращается (рассказ “Робби”).

    Немудреный сюжет, не правда ли? Но именно эта немудреность вдребезги разбивает Первый Закон роботехники, который Азимов сформулировал следующим образом: “Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред”. Где уж роботу разобраться, что вредно, а что полезно, если сами родители не могут решить этот вопрос применительно к собственному ребенку!

    В рассказе “Хоровод” в результате нечетко сформулированного указания Первый и Третий Законы вошли в противоречие друг с другом. Согласно Третьему Закону, “робот должен заботиться о своей безопасности, поскольку это не противоречит Первому и Второму Законам”. Роботу была дана команда, но не указана степень вреда, который будет нанесен человеку в случае ее невыполнения. И вот робот кружится по границе опасного района, не углубляясь в него (этому мешает Третий Закон) и вместе с тем не отходя далеко (этому препятствуют Первый и Второй Законы). Ситуация, знакомая любому программисту современных компьютеров. Называется она “зацикливание”. К слову сказать, любой мало-мальски опытный программист закладывает в программу специальные команды, по которым, совершив три-четыре круга, компьютер останавливается и требует от человека дальнейших указаний.

    В рассказе же “Хоровод” все происходит иначе. Там разорвать порочный круг людям удается, лишь рискуя жизнью и при этом пуская в ход всю свою изобретательность и пользуясь помощью знатока психологии роботов. Кстати, один из лейтмотивов, объединяющих большинство рассказов сборника, – единоборство между роботами и человеком-робопсихологом Сьюзен Кэлвин.

    Или еще один рассказ – “Как потерялся робот”. В раздражении молодой работник говорит роботу: “Уйди и не показывайся, чтобы я тебя больше не видел”. Робот буквально выполняет указание человека, после чего весь персонал внепланетной Гипербазы вынужден бросить важную работу и целую неделю заниматься поисками исчезнувшего робота.

    Мы снова намеренно выбрали рассказ с незатейливым сюжетом, потому что, на наш взгляд, именно в простоте рождается та убедительность, с которой Азимов развенчивает им же созданный Второй Закон роботехники.

    Так в чем же дело? Неужели придется признать, что джинн выпущен из бутылки и людям не остается ничего другого, как пассивно ожидать последствий? Вспомним, однако, что автор рассказов не только писатель, но и ученый, способный проанализировать ситуацию со всей логической строгостью. И он не зря выбрал именно такую форму: сначала сформулировал законы, на первый взгляд кажущиеся безупречными как по содержанию, так и по форме, а затем продемонстрировал эти законы в действии.

    Да, джинн выпущен из бутылки, причем очень и очень давно. Взяв в руки палку, человек создал первого робота, а с бунтом роботов он столкнулся тогда, когда нечаянно уронил эту палку себе на ноги. И ничего качественно нового с тех пор не произошло. Проблема бунта роботов уже несколько десятилетий как поставлена и решается в технике. В английском языке даже существует особый термин “foolproof” – “защита от дурака”. Так, газ в газовой колонке не зажигается, если не течет вода, а пресс не сработает, если в рабочем пространстве имеется посторонний предмет, например человеческая рука.

    Но не следует требовать от техники, чтобы она решала за человека, что ему во вред, а что на пользу. И не следует думать, будто появление “мыслящих” машин, то есть машин, способных самостоятельно анализировать ситуацию и на основании этого анализа принимать решения, внесет что-либо принципиально новое.

    Вернемся, однако, к рассказам сборника. Думается, что нет нужды представлять читателям их автора. Айзек Азимов – один из самых известных американских писателей-фантастов, автор множества научно-популярных книг и статей, которые издавались отдельными сборниками. Но прежде всего Азимов – талантливый художник, и именно в этом секрет его популярности. Многие произведения этого писателя переведены на русский язык. Особую известность получили его рассказы о роботах, которые издавались в виде отдельных сборников (цикл “Я, робот”) или же включались в другие тематические сборники. Приятно, что многие из них, правда, далеко не все, сейчас переиздаются в виде единого сборника.

    Читатель – и знакомый с творчеством Азимова, и впервые узнающий его роботов – встретится с яркими, превосходно выписанными персонажами. Здесь и испытатели новой техники Пауэлл и Донован, которые, следуя всем канонам приключенческого жанра, в каждом рассказе попадают в сложные, подчас безвыходные ситуации, но всегда с честью из них выходят. Здесь и “мозговой трест” фирмы “Ю.С.Роботс энд Мекэникл Мен Корпорейшн” Богерт и Лэннинг, соперничающие за власть. И над всеми возвышается робопсихолог Сьюзен Кэлвин, презирающая суетность деляг. А за кадром – современная капиталистическая Америка во всей ее “красе”. Перед читателем проходят картины конкурентной борьбы между фирмами, предвыборных политических махинаций, расовой дискриминации. Но нельзя не отметить, что, изображая своих роботов рыцарями без страха и упрека, наделяя их металлическим телом и позитронным мозгом, Азимов уходит от острых социальных проблем.

    Собственно роботов в рассказах Азимова попросту нет. Вернее, в них отсутствуют такие механические конструкции, которые наверняка появятся в первой половине XXI века (а именно к этому времени приурочено действие всех публикуемых в сборнике рассказов) и общие черты которых Азимов, как ученый, мог бы достаточно хорошо предвидеть. Можно сколько угодно гадать о внешнем облике и внутреннем устройстве будущих роботов, но одно уже сегодня не вызывает сомнений: робот не будет человекоподобным. Не будет, следуя логике развития техники, не будет по соображениям элементарной целесообразности. Лучший пример, подтверждающий сказанное, – советские “луноходы”.

    Что же в таком случае представляют собой азимовские роботы? Это своеобразная декорация, или фон, на котором действуют герои рассказов. В доказательство сказанного приведем только одну цитату из рассказа “Улики”:

    “…Если хорошенько подумать, Три Закона роботехники совпадают с основными принципами большинства этических систем, существующих на Земле.

    Конечно, каждый человек наделен инстинктом самосохранения. У робота это Третий Закон. Каждый так называемый порядочный человек, чувствующий свою ответственность перед обществом, подчиняется определенным авторитетам. Он прислушивается к мнению своего врача, своего начальника, своего правительства, своего психиатра, своего приятеля. Он исполняет законы, следует обычаям, соблюдает приличия, даже если они лишают его некоторых удобств или подвергают опасности. А у роботов это Второй Закон. Кроме того, предполагается, что каждый так называемый хороший человек должен любить своих ближних, как себя самого, вступаться за своих друзей, рисковать своей жизнью ради других. Для робота это Первый Закон”.

    Вот и раскрылись секреты знаменитых Законов роботехники. В каждом рассказе Азимова робот – это своеобразная шкала, в согласии с которой соразмеряются поступки героев. Прием интересный и очень действенный, а сами рассказы увлекательны и читаются с неослабевающим интересом.

    Д-р техн. наук А.Шилейко

    Нашей вины тут нет. Нам и в голову не приходило, что все идет не так, как следует, пока я не позвонил Клифу Андерсу и не поговорил с ним, когда его там не было. Да что там – я бы никогда и не узнал, что его там нет, если бы он вдруг не вошел в тот самый момент, когда я с ним разговаривал по телефону.

    Господи, что это я несу – я всегда был отвратительным рассказчиком, мне никогда не удавалось рассказать все по порядку – я слишком возбуждаюсь. Ладно, начну с самого начала.

    Я Билл Биллингс, Клиффорд Андерс мой друг. Я инженер-электротехник, он математик, и мы оба работаем в Средне-западном технологическом институте. Теперь вы знаете, кто мы такие.

    Как только Клиф и я сбросили с себя военные мундиры, мы занялись вычислительными машинами. Надеюсь, вы представляете, что это за сооружения, – Норберт Винер подробно описал их в своей “Популярной кибернетике”. Они огромны, неуклюжи и занимают всю стену. К тому же они дороги.

    У нас с Клифом появились некоторые идеи на этот счет. Понимаете, вычислительная машина громоздка и дорога потому, что в ней полно всяких реле и вакуумных трубок, позволяющих контролировать микроскопические электрические токи. В сущности эти микротоки и есть самой главное в машине, поэтому…

    Говорю я однажды Клифу:

    – А почему мы не можем управлять током без всего этого проволочного салата?

    Клиф говорит:

    – Действительно, почему? – и тут же занялся математическими выкладками.

    Каким образом нам за два года удалось получить то, что мы получили, значения не имеет. Важно, что машина, которую мы наконец построили, причинила-таки нам хлопоты. Когда мы ее закончили, она была примерно вот такая в высоту, почти такая в длину и примерно такая в глубину…

    Ах, да, я все забываю, что вы меня не видите. Придется дать вам размеры в цифрах: около трех футов в высоту, шесть футов в длину и два фута в глубину. Представляете? Ее с трудом поднимали два человека, но все же ее можно было поднять, а это самое главное. К тому же считала она и проделывала остальные фокусы не хуже, чем эти громадины размером с целую стену; не так быстро, пожалуй, но мы продолжали ее совершенствовать.

    У нас имелись свои планы насчет этого сооружения. Грандиозные планы. Мы надеялись, что вскоре нам удастся установить его на самолетах и судах, а позднее, если доведем габариты до минимума, мы предложим его автомобилистам.

    Автомобильный вариант казался нам привлекательнее других. Вы только вообразите себе крохотный электронный мозг, вмонтированный в рулевое управление и снабженный фотоэлектроглазом. Такой мозг выберет вам кратчайший путь, предотвратит столкновение, будет покорно останавливать машину перед красным светом, разовьет нужную скорость, а ты – сиди себе на заднем сиденье и наслаждайся мелькающим за окном пейзажем. Автомобильные катастрофы отойдут в область преданий.

    Работа над прибором доставляла нам огромное удовольствие. Когда я вспоминаю, какую радость мы испытывали, решая тот или иной узел, я чуть не плачу от досады – ведь не сними я тогда трубку и не позвони в лабораторию…

    В тот вечер я находился у Мэри Энн… Я вам о ней рассказывал, не правда ли? Нет? Конечно, нет.

    Мэри Энн – это девушка, которая непременно стала бы моей невестой, не будь при этом двух “если”. Во-первых, если бы она этого захотела, во-вторых, если бы у меня хватило смелости попросить ее об этом. У нее рыжие волосы, около 110 фунтов веса и не менее двух тонн энергии, заключенных в весьма привлекательный каркас высотой пять с половиной футов. Как вы уже догадались, я умирал от желания попросить Мэри Энн выйти за меня замуж, но всякий раз, как она появлялась в поле моего зрения, каждым своим жестом добавляя новую порцию горючего в костер, на котором поджаривалось мое сердце, я тут же сникал.

    И не потому, что я урод; находятся люди, которые утверждают, что я ничего себе: ни малейших намеков на лысину и рост почти шесть футов. Я даже умею танцевать. Все дело в том, что мне ей нечего предложить. Вы ведь знаете, сколько получает преподаватель в колледже – сущий пустяк, принимая во внимание инфляцию и налоги. Конечно, если бы мы запатентовали нашу думающую машину, все бы изменилось. Но просить Мэри Энн подождать – нет, на это у меня не хватало духу. Вот когда все утрясется…

    Об этом я и размечтался тогда в ее гостиной.

    – Я готова. Пошли, Билл, – заявила Мэри Энн, появляясь в дверях.

    – Минутку, – попросил я, – мне нужно позвонить Клифу.

    Она нахмурилась:

    – Это так срочно?

    – Я обещал позвонить еще два часа назад, – объяснил я.

    Все это не заняло и двух минут. Я набрал помер лаборатории. Клиф хотел задержаться, чтобы спокойно поработать, и тотчас снял трубку. Я что-то сказал ему, он мне ответил. Я попросил уточнить какие-то детали, он объяснил – что именно, не имеет значения, но, как я уже говорил, в нашем содружестве он – мозг, а я – руки. Когда я составляю цепь и придумываю немыслимые комбинации, это именно он, исписав страницы закорючками, решает, так ли уж они немыслимы, как это кажется на первый взгляд.

    И вот в тот момент, когда я закончил разговор и положил трубку на рычаг, раздался звонок в дверь.

    Вначале я решил, что Мэри Энн пригласила еще кого-то, и почувствовал, как по спине у меня пробежал эдакий холодок. Механически записывая данные, сообщенные мне Клифом, я следил за тем, как она открывает входную дверь. Но это оказался всего-навсего Клиф.

    Он сказал:

    – Я так и знал, что застану тебя здесь. Хэлло, Мэри Энн! Послушай, ты же обещал позвонить в шесть! Ты так же надежен, как картонное кресло.

    Клиф весь круглый, коротышка и готов в любую минуту ввязаться в драку. Я на это не реагирую, я слишком хорошо его знаю.

    Я пробормотал:

    – Тут одно наскочило на другое, и я забыл. Не понимаю, чего ты кипятишься – ведь мы только что с тобой разговаривали.

    – Разговаривали? Со мной? Когда?

    Я хотел ответить и осекся. Тут было что-то не так. Звонок в дверь раздался в тот момент, когда я повесил трубку, а от лаборатории до дома Мэри Энн не менее шести миль. Я сказал:

    – Я только что говорил с тобой.

    Он еще ничего не понял и повторил:

    – Со мной?

    Я указал на телефон.

    – По телефону. Я звонил в лабораторию. По этому телефону. – Теперь я указывал на него обеими руками. – Мэри Энн слышала, как я с тобой разговаривал. Мэри Энн, ты ведь слышала?…

    Мэри Энн сказала:

    – Я не знаю, с кем ты разговаривал. Ну, что, мы идем наконец?

    В этом вся Мэри Энн, она не терпит неточности.

    Я сел. Я попытался быть хладнокровным и собранным. Я сказал:

    – Клиф, минуту назад я набрал номер лаборатории, ты подошел к телефону, я спросил, какие результаты, и ты мне их продиктовал. Я их записал – вот они. Что, разве неверно?

    И протянул ему бумажку с уравнениями. Клиф внимательно прочел их и сказал:

    – Здесь все правильно. Но откуда они у тебя? Ты ведь не вывел их сам.

    – Я же сказал тебе – ты их продиктовал по телефону.

    Клиф покачал головой.

    – Но я ушел из лаборатории в четверть восьмого. Там сейчас никого нет.

    – Уверяю тебя, я с кем-то разговаривал.

    Мэри Энн нетерпеливо теребила перчатки.

    – Мы опаздываем, – напомнила она.

    Я махнул ей рукой – погоди минутку – и спросил у Клифа:

    – Послушай, а ты уверен…