Ученые из Общества научных исследований им. Макса Планка, легендарного европейского исследовательского института, уверены, что человечество никогда не сможет контролировать сверхразумный искусственный интеллект, способный спасти или уничтожить человечества...

Как говорится в исследовании, опубликованном на прошлой неделе в журнале Journal of Artificial Intelligence Research, главная проблема заключается в том, что мы просто не сможем удержать такой алгоритм на современном уровне технологий.

Команда занималась в первую очередь проблемой сдерживания: если всемогущий алгоритм решит навредить человечеству, то как мы можем его сдержать и предотвратить неприятные последствия?

Авторы предлагают создать “сдерживающий алгоритм”, который мог бы предсказать, что собирается сделать главный алгоритм и предотвратить эти действия. Вот только такой “сдерживающий алгоритм” должен будет быть таким же мощным, как и виновник проблемы.

А значит, пока что проблема не имеет решения.


Конечно, это все теоретические размышления.

Нам еще долго до сверхразумного ИИ, способного уничтожить человечества, но не стоит забывать, что его разработкой занимаются целые команды программистов в разных уголках света.

“Пусть сверхразумный алгоритм, контролирующий мир, звучит как идея из научной фантастики, у нас уже есть алгоритмы, которые выполняют очень важные задачи, при том, что написавшие их программисты не всегда до конца понимают, как алгоритмы этому научились,”— комментирует проблему один из соавторов исследования Манюэль Себрайан (Manuel Cebrian).Источник: "Наука от Фансаенс"