Восстание машин в произведениях фантастов — это открытое противостояние робота и человека. Следя за воображаемыми войнами с киборгами, мы развлекаемся, щекочем свои нервы… И не замечаем, что в реальности машины уже порабощают своих создателей.

Бог создал человека, человек создал компьютер

Бытует мнение, что все технологические изобретения были созданы человеком по образу и подобию окружающего мира, а в первую очередь — себя самого. Компьютер не является исключением. Со дня его изобретения он превратился в машину, повторяющую принципы работы человеческого мозга, но — с помощью математических алгоритмов. Архитектура машины построена по аналогии с человеческим телом. Операционная система — фактически это наша нервная система, координирующая работу инстинктов и рефлексов. Оперативная память электронной машины по своей сути — как наша кратковременная память. Отделы нашего мозга, в которых хранятся жизненно важные воспоминания, — чем не «жесткий диск»? Функции зрения, слуха, обоняния у машины берут на себя устройства ввода, получения информации, тогда как устройства вывода отвечают за функции речи, мимики и жестов. Легкие — тот же кулер, желудок — блок питания, а сам мозг — процессор. Как видите, по аналогии совпадает все. Но есть отличия, которые до недавнего времени не позволяли считать его «живым» и разумным.


«Автоматические» аспекты Бытия

«Мыслю, следовательно, существую», — сказал французский философ Рене Декарт. Считается, что человека от компьютера отличает способность мыслить свободно, без заданных алгоритмов. Но это неправда. Человек также не может «помыслить немыслимое», а для того чтобы мыслить математическими категориями, ему необходимо освоить математику.
Наш разум также имеет «рамки мышления», выйти за которые едва ли способен. Многие думают, что наш мозг, в отличие от компьютера, никаких дифференциальных уравнений при совершении повседневных действий не решает. На самом деле, мы с вами просто не замечаем того, как внутри нас постоянно происходят молекулярные вычисления на бессознательном уровне. Конечно, это не касается каких-то сложных сторон нашей жизни, требующих осмысления, — например, волевых решений, эмоционального реагирования или ситуаций выбора. Однако базовыми инстинктами, стилем поведения и реагирования управляем не всегда только мы сами и окружающие люди. Именно поэтому мы с вами часто удивляемся тому, как отреагировали на то или иное событие, — это происходит не всегда осмысленно и логично, будто бы по наитию. Как видите, отличий не так и много.

Интернет разумный

Если человек долгое время пребывает в одиночестве, он не только перестает развиваться, но и деградирует, теряя разум, — становится мало отличим от машины, выполняющей «автоматические» действия. Наш разум коллективен. А может ли коллектив компьютеров самостоятельно мыслить?
Американский нейробиолог Кристоф Кох, специалист по изучению и моделированию мозга в Институте Аллена, имеет 30-летний опыт по изучению разума человека и животных. В 2015 году Кох возглавил BRAIN Initiative — инициированный Бараком Обамой проект, целью которого является создание виртуального интеллекта, полностью идентичного человеческому. В своих научных работах Кристоф неоднократно писал, что «разум подобен информационному полю, он окружает нас, он разлит повсюду — в воздухе, которым мы дышим, в земле, по которой мы ходим, в мозге, который позволяет нам мыслить».
Совместно с итальянским психиатром Джулио Тонони он пришел к выводу, что разумом обладают не только люди и животные, но и сложноорганизованные искусственные организмы — такие, как Всемирная сеть. Начнем с того, что Интернет имеет сходство с мозгом человека: соединения подобны нервным клеткам, передача данных — импульсам… Далее, Интернет имеет способность к самообучению. Если компьютер является подобием человеческого ума, то Интернет является сообществом этих умов — подобием людского общества.
Кох пришел к выводу, что Всемирная паутина покамест не обладает полноценным разумом и находится скорее на уровне животного, но в будущем он может развиться до нашего и даже превзойти. Опасно ли это? Физик Стивен Хокинг считает, что искусственный интеллект составит опасную конкуренцию человеческому разуму — ум и память людей будут деградировать под влиянием электронных «помощников», и вскоре машины вытеснят нас. Однако, скорее всего, «ящик Пандоры» открыт уже сейчас.

«Мы служим ей, чтоб ездила она»

В наши дни ученые сходятся во мнении, что вокруг нас развивается и эволюционирует всё — живое, условно живое и даже совсем неживое. Инфляционная модель Вселенной доказала, что Вселенные развиваются по законам Дарвина, а молодая наука меметика утверждает, что любая мысль, пришедшая нам в голову, эволюционирует и размножается, передаваясь от человека к человеку, подобно вирусу. Футуролог Сьюзен Блэкмор считает, что технологии вокруг нас также размножаются и конкурируют друг с другом, подобно живым организмам. Например, любой смартфон имеет тираж с определенным количеством копий (популяция), обладает сроком жизни, а также способностью распространять информацию — в том числе и о самом себе. «Мы, разработчики и пользователи устройств, упустили нечто важное для планеты Земля. Это — эволюционные процессы, — говорит Блэкмор. — Первым процессом был ген — основа биологической эволюции. Вторым стал мем — единица измерения информации. В наши дни мы можем наблюдать огромный технологический бум, являющийся показателем третьего. Механизмы уже способны создавать другие механизмы практически без участия человека, и их становится все больше».
Действительно, сегодня в мире насчитывается столько же компьютеров, сколько и людей, — не учитывая других информационных устройств. Один только Интернет потребляет 6 процентов мировой электроэнергии, и цифра эта продолжает расти. Цена этой энергии — нарушенная экология, борьба за энергоресурсы. Технологии передачи информации сейчас становятся отдельными сущностями — способными создавать самих себя и передавать информацию, часто — в ущерб своим создателям, людям. Интернет-зависимость, общение в социальных сетях — все это виртуальные миры, симуляции, отнимающие у нас нашу реальность. Однако все это — вовсе не главная опасность…

В сетях нейросетей

Поняв принципы работы мозга, ученые создали первую нейросеть — цифровой аналог нашего мозга. В наши дни разработаны сети третьего поколения, способные обучаться, распознавать эмоции и принимать решения. Эти сети уже применяются во многих областях жизни общества. В экономике и бизнесе они прогнозируют цены на сырье, оценивают риски невозврата кредитов, оценивают цену имущества, предсказывают банкротства крупных компаний и отдельных физических лиц. В медицинской сфере нейросети уже заменяют врачей — они наблюдают за состоянием пациентов в клиниках, на основании чего ставят диагноз и анализируют эффективность терапии. Искусственный интеллект берет на себя обеспечение безопасности — он способен не только идентифицировать человека по чертам его лица, но даже распознавать в нем недобрые намерения. Так, китайские ученые Сяолинь By и Си Чжан «научили» искусственный интеллект вычислять по фотографиям людей, опасных для общества. Нейросеть, изучив фотографии людей с богатым преступным прошлым, выделила черты лица, характерные для данного типа личности. Мысль предоставить компьютеру решать, кто является преступником, а кто — нет, вызвала бурю негодования среди правозащитников по всему миру.
Как пророчат футурологи, к 2050 году нейросети заменят людей в торговле, фармацевтике, медицине, на фондовых биржах и в журналистике. Эти предсказания основываются на том, что сегодня нейронные сети уже умеют рисовать картины, сочинять стихи и обучать людей. Все более широкое использование роботов не только оставит без работы многих людей, но может привести и к весьма опасным инцидентам. Например, в Китае на технологической выставке China Hi-Tech Fair робот, ненадолго оставленный без присмотра, разрушил стенд и нанес увечья сотруднику, попытавшемуся его остановить. «Вразумить- такую машину невозможно — она руководствуется заданной программой, даже если в ней произошел серьезный сбой. Что же будет дальше?

Трудно быть Богом

Главную угрозу для человека представляет тот момент, когда искусственный интеллект поймет, что он собой представляет и кто и с какой целью его создал. Осознав сам себя, будет ли этот интеллект дружелюбен к своим создателям или же постарается подчинить нас своей воле?
Еще несколько лет назад, выступая на конференции в США, посвященной технологии TED, среди участников которой были видные деятели науки и культуры, такие как председатель совета директоров Apple Стив Джобc и сооснователь Google Сергей Брин, Сьюзен Блэкмор заявила, что технологический скачок представляет явную угрозу для всего человечества: «Современным технологиям не нужны те условия для жизни, которые нужны нам. Они не дышат воздухом, не нуждаются в пище. В будущем они смогут обойтись без нас».
Технологии в прямом смысле порабощают нас, а так как они созданы по образу и подобию нашему, то им должны быть не чужды тяга к выживанию и конкуренции. Наш выбор — победить их или быть побежденными.