Любой шаг на пути к разработке робота, который принесёт пользу человечеству, — это одновременно шаг в сторону чудовищной машины для убийств.

Что пошло не так?

С этим вопросом ведущие роботехники столкнулись на конференции Humanoids, когда их попросили подумать над тем, что писатель-фантаст Айзек Азимов предлагал рассмотреть ещё полвека назад, — над необходимостью вложить в роботов понимание моральных устоев.

С тех пор многое изменилось. Если говорить в общем, то на смену «роботам в клетках» индустриальной эпохи грядут времена, когда роботы будут среди нас. У военных уже сейчас есть самонаводящиеся крылатые ракеты и беспилотная авиация, а на армейские вездеходы устанавливаются M16 с дистанционным управлением.

Пентагон утверждает, что подобные роботизированные системы ограждают солдат от опасности, являясь к тому же более эффективными машинами для убийств. Некоторые считают, что роботизированные системы способны сделать войну более этичной. Говорят даже, что машины убивают с меньшим сопутствующим ущербом и реже совершают военные преступления.

Наслушавшись подобных заявлений, философ подавленно молчит. Как объяснить бравому вояке или дельцу, который ради денег задушит любого, что убийство всегда безнравственно, даже если оно совершается ради «высоких» целей? Война не может быть менее или более этичной. Она всегда аморальна.


Так вот, на упомянутой конференции речь зашла о человекоподобных роботах, и робоэтик Рональд Аркин из Технологического института штата Джорджия (США) выступил с докладом «Как не создать Терминатора», оттолкнувшись от первого закона робототехники, который Азимовым сформулирован так: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред». Очевидно, что, рассказывая об этических дилеммах, встающих перед роботехниками, он хотел заставить аудиторию подумать и не собирался предлагать готовых ответов.

Г-н Аркин начал с конкурса Robotics Challenge, который объявило Управление перспективных исследований Министерства обороны США (DARPA). Инженеров приглашают создавать роботов для чрезвычайных ситуаций — например, для работы на аварийных АЭС. Казалось бы, более чем гуманная цель. Но мы-то знаем, для чего в действительности Пентагону могут понадобиться такие роботы, — для ведения боевых действий в городских условиях, для выковыривания «повстанцев» из укромных уголков, для выполнения заданий типа «найти и уничтожить».

Учёный продемонстрировал собравшимся кадры из нескольких научно-фантастических фильмов, в том числе, конечно, из «Терминатора» Джеймса Кэмерона (1984) с Арнольдом Шварценеггером в главной роли. В каждом из этих отрывков злобные роботы выполняли те задачи, которыми интересуется DARPA: расчищали завалы, открывали двери, ломали стены, взбирались по лестницам, водили транспортные средства. Робот, способный на такое, может использоваться не только в мирных целях — вот о чём хотел сказать г-н Аркин. Всё зависит от того, как этими возможностями распорядится человек. И действительно, во второй части «Терминатора» (1991) перепрограммированный герой Шварценеггера выступает уже на другой стороне.

250 роботехников нервно посмеивались. «Я тут стараюсь шутить, — сказал докладчик, — но вы не забывайте, что создаваемые вами технологии могут быть использованы не совсем так, как вы задумали».

Приведённые выше высказывания поборников роботизированного вооружения не очень-то правдивы, мягко говоря. Например, искусственный интеллект ещё не отполирован настолько, чтобы он мог воспротивиться приказу, который нарушал бы правила ведения войны или вёл к преступлению против человечности. Даже сам Пентагон в прошлом году признал (в докладе «Роль автономии в системах Министерства обороны», оставшемся почему-то малозамеченным), что один беспилотник обслуживают примерно 170 человек, то есть автоматизация войны всего лишь иллюзия. Создание более совершенных машин для убийств не имеет никаких положительных сторон. И, по мнению г-на Аркина, хотят того роботехники или нет, они уже сейчас создают компоненты будущего Терминатора. И неважно, кто его построит — США или какие-нибудь «террористы».


Конечно, докладчик не сказал ничего нового. Любая технология может использоваться и во благо, и во вред. Например, мало кто задумался над рекомендациями Альфреда Нобеля по применению динамита исключительно в мирных целях. (Знаете ли вы, что он предсказывал прекращение войн на земле, ибо люди, по его мнению, должны были ужаснуться страшной силе его изобретения?)

Да, роботехникам, наверное, полезно знать об этом, но что с того? Что они могут сделать? Если ты откажешься от сотрудничества с условным Пентагоном и вместо автономного танка сотворишь автономную сестру милосердия, твои разработки всё равно могут быть использованы другими в военных целях. Будет ли спокойна в этом случае твоя совесть? (Заметим, что и религиозные деятели, и философы отвечали на этот вопрос утвердительно: спасай душу свою, не оглядывайся, говорили ангелы, выводя Лота из Содома.)

Впрочем, есть такие безумцы, которые совершенно не понимают сути дела. Например, Крис Аткесон из Университета Карнеги — Меллона, принимающий участие в конкурсе DARPA Robotics Challenge, критикуя г-на Аркина, вспомнил «безотказный» аргумент: мол, если бы не бомбы, сброшенные на Хиросиму и Нагасаки, неизвестно, сколько продолжалась бы война и сколько погибло бы людей. По его мнению, это хорошая иллюстрация того, как новые военные технологии спасают жизни и предотвращают преступления против человечности... Источник: New York Times