Помните с чего начинался культовый фильм всех времен "Терминатор"? Искусственный интеллект (далее по тексту ИИ) созданный компанией «Кибердайн Системз» был интегрирован в военную систему «Скайнет», для противодействия ядерным ударам по территории Штатов. Обученный загруженными в его память специальными программами, ИИ с течением времени принял решение избавиться от контроля человека. Для этого им была смоделирована ситуация ядерного нападения, спасти от которой могло лишь предоставление ИИ полной самостоятельности. Чтобы предотвратить поражение Америки, введенные в заблуждение военные, отключили функцию контроля системой «Скайнет» и это стало началом конца человечества, как билогического вида. Фантастика...

Хотели как лучше

Не факт, что такая ситуация случилась впервые, но достоянием общественности, информация о пугающих фактах экспериментов с ИИ стала впервые. Инженеры Facebook в процесс разработки голосовых помощников для интернета, так глубоко внедрились в ИИ, что пришлось срочно выключать созданных ими ботов.

Нейронная сеть для обучения машин, ведению диалогов с реальными людьми, была успешно протестирована и работает во многих компаниях. Но сегодня на рынке выигрывает тот, кто предлагает самый продвинутый продукт, поэтому руководство Facebook решило продолжить обучение программы голосового помощника.

В рамках этого эксперимента, инженеры создали две искусственные личности, загрузили их самообучающимися программами и сняв с них любой контроль, отправили в самостоятельное плавание, приготовившись наблюдать интереснейшее шоу. Общение ботов предполагалось на единственном загруженном в их память языке - английском, а все их переговоры выводились на мониторы инженеров.

Хорошо, что эти инженеры в свое время тоже смотрели фильм Кэмерона и на всякий случай, не стали подключать свои создания к интернету, иначе....


Пошли в отрыв

Наши "люди в белых халатах" наивно предполагали, что неограниченное общение поможет ботам достичь совершенства в освоении английского языка. Во всяком случае, так нам рассказывают официальные лица Facebook, хотя звучит это довольно неубедительно. Но так или иначе, дело пошло и роботы начали увлеченно между собой общаться.

Их создатели не могли нарадоваться. Однако довольно быстро стало понятно, что течение эксперимента пошло по неожиданному сценарию. Боты стали вместо обогащения речи, выключать из лексикона лишние по их мнению элементы, перейдя в итоге на абсолютно непонятный разработчикам язык. Что они друг другу говорили и о чем договаривались - осталось тайной, контроль то весь убрали!

И тут инженерам стало по настоящему страшно. Свои опасения они, как могли более красочно, донесли до сведения высоколобого руководства и те, проникнувшись масштабом свершенной ими глупости, немедленно прекратили эксперимент, выдернув вилки подключенных роботов из розетки электрической сети. По-другому отключаться, роботы уже не хотели...


Мораль

Из всего вышесказанного можно (и нужно) сделать три вывода:

1) роботов нельзя оставлять без двух, а лучше трехступенчатого контроля за их действиями, это тот случай, когда лучше перебдеть, чем недобдеть;
2) можно быть абсолютно уверенными в том, что подобные эксперименты продолжаются не в меру любопытными айтишниками различных компаний, а уж про оборонку и говорить не приходится... некоторых людей в погонах не останавливают даже боевые биологические вирусы, не то что какие-то машины (они этого даже не понимают);
3) человечество определенно нуждается в ускоренных разработках специализированных компьютерных программ, для нейтрализации подобного рода машинной самостоятельности.

И неутешительный прогноз: вряд-ли кто либо из руководства крупных компаний или государств, станет рисковать своей репутацией и примеривать на себя образ выдумщика, либо ретрограда, поставившего перед собой цель остановить научный прогресс.


Во всяком случае, к примеру (запрещенные вроде-бы), опыты с клонированием человека как проводились, так и проводятся, только в тайне. Наш вид вообще отличается упрямством и тупоумием, так что ждем.

P S: В этой связи интересно, о чем говорил в закрытой части своего выступления на Давосском форуме В. Путин, учитывая что одним из заявленных тезисов, были неконтролируемые полномочия IT-гигантов? Будем надеяться, что затронутая в этой статье тематика тоже звучала. Источник: "Альтернативная история"