Люди с готовностью отказываются от принятия решений, передавая это бремя «беспристрастным» алгоритмам. Но уже сейчас на одну ошибку, которую мы замечаем, приходятся десятки скрытых. А отсутствие навыка решать и нести ответственность — самый простой путь к порабощению роботами.

Когда на Amazon появляется книга за $23,6 млн, над формирующим цены алгоритмом потешаются. Но те же «ошибки» происходят и в других областях, где применяют ИИ.
И в случае с финансовыми рынками будет не до смеха, предупреждает профессор Университета Халла Дионисиос Деметис. О последствиях проникновения алгоритмов в разные области жизни он рассуждает на страницах Conversation.
Он уверен, что человечество уже находится во власти алгоритмов, поручая им одну из фундаментальных функций мышления — принятие решений. ИИ — это первая технология, управляющая людьми, тогда как раньше человек создавал технологии, которыми управлял сам, подчеркивает Деметис.


Опасно это потому, что из-за принципа черного ящика объяснить выводы алгоритма невозможно. Простой наблюдатель имеет доступ лишь к информации на входе и решениям.
Наиболее выпукло опасности применения таких алгоритмов показывает биржа, указывает профессор. Сейчас алгоритмическая торговля отвечает примерно за 85% операций на финансовых рынках. При этом ежесекундно в попытке обыграть друг друга соревнуются тысячи алгоритмов, которые распоряжаются миллиардами долларов. В 2010 году это привело к так называемому Flash Crash — почти мгновенному падению капитализации крупнейших американских компаний на 9%, то есть примерно на триллион долларов. К концу торгового дня потери были почти нивелированы, а пятимесячное расследование показало, что никакой ошибки или злого умысла не было — просто алгоритмы увидели способ заработать для своих создателей пару миллионов.
Можно представить, что за эти минуты падения поседел не один аналитик, пытавшийся объяснить или предсказать динамику индекса. Деметис считает, что в такие моменты люди на бирже лишь мешают. И напоминает, что при похожем падении в 1987 году в некоторых конторах на Уолл-стрит просто перестали брать трубку. С тех пор политика невмешательства лишь набирает обороты. И, вполне возможно, приближает нас к необъяснимому кризису алгоритмической торговли.


Если вам кажется, что от бирж можно дистанцироваться, ИИ все равно настигнет вас. Алгоритмы принимают все больше решений за юристов, банкиров и работников отдела кадров. Мы даже доверяем им решать, может ли подозреваемый остаться на свободе, выплатив залог, или должен дожидаться суда в тюрьме.
Сейчас — самое время взвесить последствия, подчеркивает Дионисиос Деметис: