В наступившем году появится Мегамозг, который шокирует человечество... Ровно год назад искусственный интеллект (ИИ) редко попадался в заголовках СМИ и точно не был на устах у каждого. Хотя ИИ в той или иной форме существует более полувека, а «умные колонки» и рекомендательные алгоритмы в соцсетях плотно сопровождают нас минимум десятилетие, все равно казалось, что искусственный интеллект где-то там, а мы где-то тут. Прошел год, и изменилось решительно все. Сегодня про ИИ слышал каждый. Если вы все еще думаете, что вас это не касается, я спрошу: вам звонили мошенники? Наверняка да. Поздравляю, ИИ уже постучался в вашу дверь, вы просто его не распознали. Трудно найти мошенника, который не пользуется алгоритмами, а по старинке перебирает номера. Что произошло в 2023-м, и что принесет наступивший год?

Мартовская революция

Революция случилась ранней весной 2023-го. Компания Open AI представила нейросеть GPT4. Как-то сразу стало понятно, что это прорыв. Поначалу много шутили, называли GPT «гопотой», но потом шутки как-то кончились.

Сетка GPT3 тоже была вполне себе неплоха. Но четвертая версия – это тот самый качественный скачок, после которого мир не будет прежним. Теперь не знать компанию Open AI и ее главу Сэма Альтмана так же странно, как в свое время – не подозревать о существовании Microsoft и Apple.

Что могут нейросети сегодня, в этот конкретный день, если говорить честно и без превосходных степеней?

- Их понемногу начинают привлекать к сложным задачам вроде управления транспортом, заводами и другими критически важными объектами. Делают это пока с осторожностью.
- Нейросети взяли власть в интернете. Все, что вы делаете на поисковых сайтах, в соцсетях, отслеживается и интерпретируется. Нейросеть решает, что вам читать, что смотреть и покупать. Она формирует вашу картину мира – а вы даже не замечаете.
- Нейросети все активнее применяются в офисной практике, при составлении отчетов, таблиц, статистических данных. Сети рисуют картинки и «снимают» ролики.
- Студенты и школьники почти поголовно применяют нейросети для создания рефератов, презентаций, для ответов на тестовые вопросы. Классическое образование закончилось в 2023-м.
- Нейросети работают с базами данных по заданию мошенников. Методы мошенников стали невероятно изощренными, противопоставить им пока нечего.
- А вот в решении сложных научных задач успехи пока слабые. Если вы читаете, что ученые что-то доказали с помощью нейросети, скорее всего, вы имеете дело с громким заголовком-пустышкой.

Какие проблемы выявились у нейросетей?

- Нестабильность – сетки то «глупеют», то отказываются работать и даже пытаются требовать чаевые.
- Не на чем учить. Чтобы нейросети были умными, их учат. Классический материал – тот, что выложен нами же в Сети. Он практически освоен. Сетки переходят к обучению на реальных людях. Именно поэтому им так важно с вами общаться, что они постоянно и делают (привет умным колонкам).
- Остается неясным, кто все-таки выгодополучатель всего этого технологического пиршества. То, что не мы в вами, это понятно, но кто?
- Непонятны пределы разумности нейросетей. То ли это просто бездушные алгоритмы, которые делают то, что в них заложено. То ли у сеток появляются элементы разума, неподконтрольные человеку.

Ужас под литерой Q

В ноябре прошлого теперь уже года в компании Open AI случился страшный скандал. Директор и сооснователь компании Сэм Альтман был уволен решением совета директоров без объяснения причин. После драматичных событий (судорожные поиски нового директора, восстание коллектива компании, поддержавшего Альтмана, попытки Microsoft взять под контроль тонущую компанию) Сэма Альтмана пришлось вернуть. И вот уже с месяц новостей из компании нет.

Ряд журналистов со ссылкой на источники внутри Open AI рассказали, что причина волнений была в том, что Open AI разработал некий продукт, который они назвали Q* (кью-стар). И это суперсильный искусственный интеллект, который обладает собственным сознанием и в состоянии погубить все человечество.

Сэм Альтман настаивал на том, чтобы быстрее выпустить его на рынок. Руководитель научной части, уроженец России, кстати, Илья Суцкевер был жестко против. Он пытался убедить Альтмана, что это очень опасно. Потерпев неудачу, Суцкевер якобы воспользовался своим административным весом и попытался Альтмана уволить.

Как мы уже знаем, попытка провалилась. Значит ли это, что «ядерное оружие XXI века» уже разработано и вот-вот окажется на рынке? И что в самом начале наступившего года нас ждет еще одна ИИ-революция, последствия которой оставят далеко позади события 2023-го? Давайте в этом разберемся.

Делим яблоки

Компания Open AI ничего не рассказала о Q* и даже официально не подтвердила реальность разработки. Но кинула две подсказки. Первая – новый ИИ «будет решать базовые математические задачи» и вторая – «это будут задачи на уровне начальной школы». Вы скажете, что за бред, ведь ИИ точно умней третьеклассника? А вот, оказывается, болтать с вами через умную колонку проще, чем решать математические задачи. Современные ИИ такого почти не могут.

Возьмем, например, такую задачу:

- Иван дал Соне пять яблок, а затем еще шесть. Затем Соня съела три яблока и дала три Боре. Она отдала оставшиеся яблоки Семену, и тот съел одно. Затем Семен отдал половину своих яблок Боре. Иван дал семь яблок Боре, а тот отдал Соне две трети своих яблок. Затем Соня дала Боре четыре яблока. Сколько яблок сейчас у Бори?

Учителя (и несчастные дети из углубленных школ) решают такие задачи путем выстраивания цепочек. То есть просто рисуют, кто кому что дал.

Но школьник в состоянии сосчитать, сколько будет, например, 8+3. Идя шаг за шагом, школьник осознанно складывает цифры и, если не запутается в Сонях и Борях, задачку решит. А ИИ сложить 8 и 3 самостоятельно не может. Он знает, что результат - 11, но знает потому, что ему так сказали, и он это запомнил, но он НЕ ПОНИМАЕТ, почему это так.

Open AI, видимо, намекает, что Q* разберется с яблоками.

И вот интернет-расследователи зацепились за эти подсказки и нарыли сразу две статьи сотрудников Open AI, посвященные математике. И там прям интересно.

В первой статье говорится, что Open AI нашла способ решать задачи по цепочке. Вместо того, чтобы, как человек, выстраивать одну цепочку, ИИ выстраивает сразу сто вариантов решений, и проверяет каждое с помощью программы-верификатора. «Правильным» ответом будет тот, у которого наивысший рейтинг достоверности.

Во второй статье (май 2023 года) Open AI рапортует, что сто вариантов перебирать уже не надо. Между статьями – несколько месяцев, а какой прогресс. Теперь программа-верификатор подключается на каждом этапе решения. Скажем, Иван дал Соне пять яблок, а потом еще шесть. Видимо, Иван дал Соне 11 яблок? Проверяем, так и есть, идем дальше.

Недостаток: ИИ все-таки часто ошибался, и пришлось подключать в качестве «репетиторов» живых людей, которые проверяли ответы за машиной.

Получается, в мае 2023-го человек все еще должен был стоять с палкой над алгоритмом, чтобы тот логически мыслил и правильно складывал и вычитал.

Скорее всего, про Q* объявят так. Отныне ИИ сам, без перебора вариантов, без репетиторов и надсмотрщиков решает математические задачи. Возможно, даже более сложные, чем эта. И самое главное: ИИ учится на своих ошибках.

То есть. Если человек пытается избавиться от проблемы методом тыка, он из каждой неудачи извлекает урок. Нынешний ИИ урока не извлекает, а просто пробует следующий вариант. Q* научится делать выводы из собственных просчетов. А это значит, он получит сверхспособность к самообучению.

На это намекают два обстоятельства. Во-первых, сама литера Q, видимо, указывает на Q-обучение – так называют систему, при которой машина, например, играя в шахматы, сама оценивает каждый возможный шаг и сама делает выводы, как ходить. Во-вторых, Open AI наняла программиста Ноама Брауна, который в свое время научил нейросеть потрясающе играть в покер именно через Q-обучение.

Вы разочарованы. И только-то? И это разрушит мир?

Кто знает

Все это кажется какими-то играми ни о чем, но на самом деле ИИ научится мыслить примерно так, как мыслим мы.

Яблочки – это только цветочки. Заполучив метод, и отточив его на элементарных задачах, Q* с его мощнейшими вычислительными возможностями быстро станет умнее человека. Быстро – это за недели и даже дни.

Возможно, именно это было корнем конфликта Сэма Альтмана и Ильи Суцкевера. Альтман говорил что-то вроде «да давай выпустим на рынок Q*, это будет весело». А Суцкевер: «ты что, не понимаешь, что ИИ незаметно и молниеносно выучится, станет дьявольски хитрым, а человек этого даже не заметит? Ты представляет, каких дел натворит такая нейросеть?»

Кто прав? Судя по дискуссиям на профессиональных форумах, однозначного ответа нет. Большинство, однако, полагает, что Суцкевер. И что Q* - тот самый Мегамозг, которого все так хотят видеть, и все так боятся.

Презентации Q* ждали к Рождеству (25 декабря), этого не случилось, и причина явно в скандале с увольнением Сэма Альтмана. Эксперты говорят, что при самом пессимистическом раскладе работы у Open AI осталось месяцев на шесть. Иными словами, 2024 год станет годом, когда появится по-настоящему умный ИИ. И с этим придется что-то делать. Потому что, попав в дурные руки, Мегамозг наломает дров.

В своем прогнозе эксперты Saxo Bank (эти ребята любят делать провокационные предсказания; многие сбываются) говорят, что мир будет шокирован способностями Мегамозга. Правительства примут срочные ограничительные меры. Это приведет к оттоку инвестиций из ИИ-сектора. Отрасль замедлится, но создание ИИ окажется под контролем. Развиваться будет неспешно, но позитивно.

Все может быть не так. Западный мир обезумел. Но скучно точно не будет. ИИ-революция началась в 2023-м. А у революции, как известно, нет конца.Источник: Комсомольская правда