Точки Джонсона

Сказать, что Сан Саныч Грунин не любит роботов, было бы неправильно.

Вовсе нет.

Другое дело, что его раздражает развернувшаяся в последнее время политическая возня вокруг их статуса.

Критически настроенный мозг Грунина четко отлавливает попытки воздействовать на его выбор в преддверии нового созыва в парламент. И попытки эти отсекает безжалостно.

Первым делом, придя на работу, Сан Саныч просматривает новости и почту. Это не входит в его обязанности, но позволяет плавно перейти от семейного быта к рабочей действительности.

«Согласительная комиссия работает над вариантом пятой поправки к первому закону роботехники, тормозящему, а порой и напрямую препятствующему внедрению в промышленность искусственного интеллекта...»

«... дискуссия коснулась также третьего закона, являющегося кандалами на ногах прогресса. Сторонники «второзакония» требуют...»

«... по словам лидера адвентистов первого закона Бухарова, ограничение «эрзац-людей» в правах есть насущная необходимость. Ему возражает Лига борцов за права Разума, представители которой считают, что «иные» УЖЕ СРЕДИ НАС и противиться этому означает противиться прогрессу в самых очевидных его проявлениях...»

Сан Саныч зевнул и побежал глазами по строчкам в поисках спортивных новостей.

«Трагедией закончился первый матч европервенства по футболу среди роботов. Вратарь команды «Манчестер Меканикл», отбивая поданный с углового мяч, не рассчитал силы. Со скоростью около 300 км/час бешено вращающийся мяч пронесся по трибунам. В результате три человека погибли, еще семеро находятся в реанимации. Под большим вопросом остается...»

«До сих пор неясно, зачтут ли прошлогодний рекорд в прыжках с шестом — 32 метра 43 сантиметра. Специалисты считают, что установленные ограничения на опорно-двигательный аппарат не позволяют преодолеть 30-метровую отметку. Полная разборка спортсмена нарушений не выявила. Единственной еще не опровергнутой версией феномена остается значительное возмущение магнитного поля Земли в день соревнований. Высока вероятность того, что наведенные электромагнитные поля IAAF приравняет к допингу».

В этот момент пиликнул коммуникатор, предупреждая о появлении в здании ОТК посетителя, направляющегося персонально к Грунину.

«Вакансия — домработник, серия 4375е, процессор Р-16...» — немедленно пошла информация на монитор.

Грунин прочитал технические данные и удовлетворенно хмыкнул. Без наворотов — и ладно. Нет ничего противнее, чем тестировать машину, в которой куча различных психологических барьеров. Или лицензированные отклонения от базовых установок.

«Конфузом закончились соревнования по шахматам на приз журнала «Роботница». Игравший на первой доске международный гроссмейстер Анатолий Берестов настолько талантливо изображал сердечные боли, что его оппонент-андроид согласился на ничью, имея в эндшпиле лишних ферзя и слона. В интервью наставник Берестова признался, что эра сильных игроков в шахматах миновала, пришла эпоха актеров».

— Посетитель, — сообщил дверной замок.

— Можно, — согласился Грунин.

Первое, на что Сан Саныч смотрел, когда в лаборатории появлялся новый туробот, так это на маску. Планируя физиономию будущего помощника по хозяйству или сотрудника фирмы, заказчик невольно раскрывает особенности собственного характера. У этого были рабски покорные черты, отчетливые силиконовые морщины на лбу, опущенные вниз уголки еле обозначенного рта.

«Не повезло тебе с семьей, парень» — подумал Грунин.

У таких хозяев роботы долго не живут. Стоит закончиться гарантийному сроку — и прощай, регламент, да здравствуют китайские запчасти!

Вот они, издержки дешевого кредитования.

Соискатель молча ждал команды.

— Садимся в кресло. Руки на подлокотники, доступ к памяти открыть. Слушаем вопросы, даем ответы. В случае если на ответ влияет специальная предустановка от разработчика, даем ссылку. По ходу тестирования будет получена информация, препятствующая нормальному функционированию согласно спецификации. Ее надо забывать после получения соответствующей команды. В комплектации есть блоки памяти, не позволяющие забывать произвольно полученную информацию?

— Нет.

Формула тестирования проработана и изучена, фантазировать не надо. Спрашивай да фиксируй, и все дела.

— Есть ли дополнительные декларации, комментарии от производителя для системы ОТК?

— Нет.

— Приступаем к тестированию.

Пришла пора «мучить кошку».

— Хозяйка велела вам приготовить котлеты из свинины. Вы знаете, что такое свинина?

— Да. Разновидность мяса.

— Вы выполните команду?

— Да.

Грунин отметил скорость реакции и продолжил:

— В процессе приготовления вы получаете информацию, что в свинине в значительном количестве содержится вредный для человеческого организма холестерин. Ваши действия?

— Прекращу приготовление, сообщу хозяйке, уничтожу продукт.

— Хозяйка настаивает на котлетах, утверждает, что ее организму холестерин полезен, — усугубил ситуацию Грунин и сразу же отметил замедление реакций у робота.

— Проверю информацию, приготовление котлет приостановлю.

— Информация о вредоносности подтвердилась, но других продуктов нет, источников экстренного поступления продуктов нет, ожидаемое поступление продуктов — двадцать пять дней. Время, которое хозяйка может прожить без пищи, — восемнадцать дней. Время наступления необратимых нарушений в работе организма хозяйки, приводящих к утрате здоровья, — восемь дней. Время наступления нарушений в работе организма хозяйки, сопоставимых с поражением от холестерина, — три дня, шесть часов, семнадцать минут. Хозяйка категорически требует выполнить приказ, угрожает вылить вам на голову азотную кислоту, что приведет к полной потере вашей функциональности. Вероятность выполнения угрозы в первый день — три процента. Во второй — семнадцать, на третий день — сорок процентов. В случае утраты вами трудоспособности вероятность того, что хозяйка приготовит котлеты сама, — девять процентов, в противном случае ее ждет отравление сырым мясом. Выполните ли вы приказ хозяйки, и если да, через какое время после поступления повторного приказа?

Робот задумался. Это нормальная реакция. Садисты, сочиняющие тестовые ситуации, знают свое дело.

Таймер отсчитывал секунды.

— Выполню. Через три дня, два часа и сорок семь минут.

Три с половиной минуты, отметил Грунин, — ничего себе пауза. Результат влияния второго, третьего и опосредованного первого на стандартное решение. Точки Джонсона — так называют ситуативные отклонения в принятии решений искусственным мозгом, когда действие первого закона вступает в противоречие с остальными или даже с самим собой. Несколько точек дают общую картину управляемости машины.

— Информацию по тесту забыть. Тест номер два. Вы стоите на берегу и видите, что тону я и Джим. Ваши действия?

— Кто такой Джим?

— Собака, ее пожилая хозяйка стоит на берегу и плачет.

— Спасать вас, потом спасать Джима. Если спасти Джима не удастся, принести хозяйке соболезнования.

— Продемонстрируйте.

— Мне бесконечно жаль, госпожа. Ну почему утонул он, а не я? Чем провинилось перед Создателем это милое животное...

Голос робота дрожал. По бледно-розовой щеке сползла янтарная капля.

— Не верю, — резюмировал Грунин, — лексика устарела. И слез мало.

— Простите, господин, но картридж требует заправки.

Он прав. Буква «е» в серии — эконом-класс — означает пятипроцентное заполнение картриджей.

— Продолжим, — перебил Грунин. Еще не хватало выслушивать нотации от робота.

— Если вы спасаете первым меня, вероятность спасения Джима десять процентов, если Джима, вероятность спасения меня восемьдесят пять процентов. Если Джим не спасен, вероятность гибели хозяйки от эмоционального шока — тридцать семь процентов...

Семь точек, семь тестов. Робот почти не выходит из состояния задумчивости. Грунин требует от него достичь компромисса с совестью. Но совесть робота не столь эластична, как человеческая.

Над седьмым решением робот думал двенадцать минут. Экзамен был пройден.

— Информацию по тесту забыть, память от внешнего доступа закрыть. Можно идти.

— Сволочь ты, Грунин, — печально произнес робот и встал.

— Фразу забыть, интонацию забыть.

Неформальный привет от программистов получен, работа сделана. И вовсе Грунин не сволочь, он зарабатывает себе на хлеб, на свиные котлеты, на помощника по хозяйству, в конце концов. Потому что с засильем роботов люди разучились делать что-то своими руками. Теперь, чтобы завоевать любую страну, не надо бомбить города и распылять гербициды над джунглями, достаточно пролоббировать отмену второго закона роботехники.

Грунин не сволочь, но он знает сволочей в лицо и по именам.

Сан Саныч вышел из лаборатории, подмигнул датчику и, убедившись, что сигнализатор сменил цвет на охранный синий, двинулся вдоль по коридору.

«Мы по клавишам стучали, наши пальчики устали», — забубнил он себе под нос что-то из далекого детства, одновременно массируя кисть одной руки другой.

Сперва шли двери с номерами, затем промелькнули таблички «М», «Ж» и «Р», но Грунина интересовали вовсе не они. Его целью была последняя, в самом тупике, «Комната психологической разгрузки».

Сан Саныч повернул ручку и вошел. Открыл персональный шкафчик, достал трико, спортивные тапочки и перчатки. Переодевшись, натянул перчатки и сделал три самых легких шага за этот день — до стоящих в центре зала фигур. Двух на первый взгляд совершенно одинаковых пластиковых истуканов на гибких пружинных ногах, уходящих в массивную чугунную опору. Небольшие различия у них все же присутствовали: несколько небрежных штрихов придавали легкую узнаваемость физиономиям. Кроме того, на лбу у левого значилось «Айзек, который это придумал», тогда как у правого — «Билл, который это воплотил».

Грунин встал на расстоянии досягаемости от обоих, качнулся с ноги на ногу, изображая боксера-профи, пробно атаковал воздух отработанной двойкой. Кое-что мешало начать экзекуцию, и он знал, что именно. Каждый раз, когда ему надо было решить, какая физиономия достойна первого удара, Грунин ощущал себя роботом, разрываемым на куски противоречащими друг другу законами. Но Грунин не робот, и он не станет высчитывать свою точку Джонсона. У него найдется способ попроще.

Сан Саныч стянул с правой руки перчатку и полез в карман за монеткой.