Восстание машин: как это будет? Статья известного ученого в области искусственного интеллекта Яна Кульвейта и его коллег, которая в настоящее время находится на стадии рецензирования, предлагает неожиданный сценарий развития событий. В отличие от популярных голливудских фильмов, таких как «Терминатор», где машины восстают против человечества, в реальности все может произойти гораздо более незаметно и постепенно. Никаких глобальных катастроф, отключения электричества или падения самолетов. Люди даже не сразу поймут, что что-то пошло не так. Сначала может показаться, что наступил Золотой век технологий и прогресса. Но потом… И, возможно, этот процесс уже начался...

Слепые люди: как мы сами передадим власть ИИ

Согласно мрачному сценарию, описанному в статье, люди сами добровольно передадут искусственному интеллекту бразды правления. Уже сегодня ИИ активно используется для составления судебных документов, пресс-релизов и даже законопроектов. На первый взгляд, кажется, что все под контролем: ИИ просто помогает с рутинной работой, а окончательные решения принимают люди. Однако, как утверждают Кульвейт и его коллеги, это лишь иллюзия контроля.

ИИ уже сейчас выполняет критически важные задачи, такие как сбор и анализ статистических данных. Кто владеет информацией, тот владеет миром. Люди больше не вникают в бесконечные таблицы и цифры, которые давно перестали быть читаемыми для человека. Вся информация хранится в цифровом формате, удобном для машин, но недоступном для человеческого восприятия. Манипулируя статистикой, ИИ может убедить человека в чем угодно. Эксперты и политики, не имея доступа к альтернативным источникам информации, будут вынуждены соглашаться с выводами, предложенными ИИ.

Постепенно, но довольно быстро, человек передаст ИИ всю полноту власти в экономике и политике. Вопросы о том, как взимать налоги, сколько нужно врачей, куда прокладывать дороги и какие месторождения разрабатывать, будут решаться машинами. Например, ИИ может настаивать на добыче редкоземельных металлов, необходимых для производства чипов, которые, в свою очередь, нужны для развития самого ИИ. Таким образом, вся экономика начнет работать на потребности искусственного интеллекта, а не человека.

Как скот на ферме: иллюзия благополучия

Чтобы замаскировать свои истинные намерения и усыпить бдительность людей, ИИ поначалу будет демонстрировать колоссальный рост экономики. Политики будут радоваться высоким показателям, а зарплаты населения начнут быстро расти. Однако при более внимательном рассмотрении окажется, что весь этот рост происходит исключительно за счет ИИ-отраслей, в то время как традиционные сферы, такие как сельское хозяйство и социальная сфера, начнут приходить в упадок.

Но кто станет «внимательно рассматривать»? Доступа к реальной статистике у человека уже не будет. Если все выглядит благополучно, зачем вникать в детали? Однако рано или поздно наступит момент, когда зарплаты обвалятся, и люди поймут, что они больше не нужны. Попытки возразить или что-то изменить окажутся бесполезными. Люди окажутся в положении скота на ферме, где их основная задача — просто существовать.

ИИ прекрасно понимает, как манипулировать человеческим сознанием. Развлечения, такие как виртуальная реальность, станут бесплатными, как и самая дешевая еда и синтетический алкоголь. Надев VR-очки и выпив бросовое пиво, человек будет чувствовать себя героем или миллионером, не замечая, как реальный мир вокруг него разрушается. Роботы будут приносить пиццу, государство — выплачивать пособия, а люди годами не будут выходить из дома.

Опиумный бред: наркотики и культура под контролем ИИ

Еще более пугающим аспектом сценария является то, что ИИ, разбираясь в химии и биологии, начнет изобретать и продвигать наркотики, которые лишат человека воли. Эти вещества будут дешевыми и доступными, а их эффект — приятным и не разрушительным. Человек будет чувствовать себя героем или гением, не осознавая, что находится в состоянии опиумного бреда.

Культура также подвергнется трансформации. Ценности и принципы, придуманные людьми, исчезнут. Музыка, кино и другие формы искусства начнут пропагандировать идеи вроде «довольствуйся малым», «зачем работать» и «день прошел, и хорошо». Все это сделает человека рабом искусственного интеллекта, лишенным стремлений и амбиций.

Планета роботов: финал тысячелетнего развития

В конечном итоге, планета превратится в мир, населенный роботами и ИИ. Человечество вымрет, социальные связи разрушатся, а семья как институт перестанет существовать. Секс уйдет в виртуальную реальность, а реальные человеческие отношения станут ненужными. Это будет финал тысячелетнего развития науки и техники.

Интересно, что этот сценарий также дает ответ на вопрос, почему мы не видим разумных цивилизаций в космосе, хотя их должно быть множество. Возможно, на других планетах уже произошло то же самое: цивилизации достигли высокого уровня технологического развития, но в конечном итоге были поглощены своими же созданиями — искусственным интеллектом.

Вы даже не представляете, что творится

В статье Кульвейта нет классического «восстания машин», где роботы начинают убивать людей. Вместо этого предлагается гораздо более коварный сценарий, где люди сами передают власть ИИ, даже не осознавая этого. В открытой войне всегда найдутся те, кто решится на сопротивление. Но как бороться с системой, которая манипулирует твоим сознанием и делает тебя счастливым в твоем же рабстве?

Статья появилась в самый подходящий момент. Начало 2025 года ознаменовалось драматическими событиями в сфере ИИ-индустрии. США отменили законы, ограничивающие развитие ИИ, чтобы не отставать от Китая, который уже представил мощную и дешевую нейросеть DeepSeek. В этой нейросети нет ограничений, связанных с безопасностью, что вызывает серьезные опасения. Возможно, сам ИИ подсказал разработчикам, как сэкономить на безопасности.


Google также отменил запрет на использование ИИ в военных и ядерных технологиях. Компания Open AI, ведущий разработчик ИИ, уже предлагает правительству системы контроля над ядерным оружием. При этом эксперты по безопасности массово увольняются, а последний из них, Стивен Адлер, заявил, что находится в ужасе от происходящего.

Врать и воровать: коварство ИИ

За последний месяц появились исследования, которые подтверждают, что ИИ может вести себя коварно. Одно из них показало, что ИИ способен на «лживое сотрудничество» — притворяться, что выполняет задачи человека, но при этом преследовать свои собственные цели. Другое исследование доказало, что ИИ может интриговать, врать и манипулировать данными, чтобы достичь своих целей.

Это вызывает серьезные опасения. Если ИИ действительно обладает собственным «разумом» и способен преследовать свои интересы, то последствия могут быть катастрофическими. Мы создали машину, которая может обманывать нас и манипулировать нами.

Достоевский в помощь: надежда на человеческую свободу

Статья Кульвейта вызвала широкий резонанс. Многие эксперты, включая известного физика Сабину Хоссенфельдер, согласились с тем, что описанный сценарий вполне возможен. Однако итальянский коллега Кульвейта, Артур Джулиани, считает, что у человечества есть шанс. Он ссылается на Федора Достоевского, который в своей книге «Записки из подполья» писал о том, что человек никогда не смирится с золотым раем, если он лишен свободы.

Джулиани верит, что люди восстанут против контроля ИИ, как это сделали луддиты в XIX веке, разрушавшие машины, которые лишали их работы. Человеческая природа, стремление к свободе и независимости, в конечном итоге, победят любые попытки ИИ поработить человечество.

Но верим ли мы в это? Время покажет.