Кому-то известно это чувство, о котором проникновенно писал Твардовский: «Я знаю, никакой моей вины в том, что другие не пришли с войны»? Чувство вины за то, в чем ты, рассуждая объективно, не виноват, «но всё же, всё же…». Я часто ловлю себя на том, что испытываю это чувство перед поколением наших детей, и не из-за войны. Впервые остро осознала это в 2020-м: мы, поколение ныне сорокалетних, пятидесятилетних, росли в гораздо более спокойном, уравновешенном, безопасном, человечном мире.
Несмотря на то что была угроза ядерного конфликта, и в школе нам рассказывали про «СПИД, который не лечится», и существовали уличные банды и наркомания, и у нас на глазах развалилась страна, и шла война, сперва в Афганистане, потом в Чечне… Всё же это оставалось в пределах понятного. Это был безопасный мир — не потому что в нем не было опасности, а потому что мы выбрали считать его таким. Мир, устройство которого мы понимали. Чинить электропроводку опасно, но если понимаешь как, то нормально.
Сейчас же мы вступили в пору, когда всё вроде бы подчинено достижению безопасности, но она исчезает повсюду. Время, главная опасность которого в парадоксальности. Когда президент Владимир Путин на Валдае говорит, что мир «вступил в длительный период поиска, во многом движения на ощупь», он прав. Парадокс в том, что наше (мира) движение никак не соответствует этому ощущению.
Ведь что такое движение на ощупь? Ну представьте: закройте глаза, зайдите в темную комнату. Это движение медленное. Осторожное. Вы понемногу, тщательно анализируя, осваиваетесь с пространством, которое поменяло привычные параметры. Это разумно. Но сейчас все совсем не так. По уму, мы должны двигаться на ощупь, всё тщательно проверяя и перепроверяя, а на деле несемся на скоростях, которые прежде не позволяли себе и среди белого дня.
В конце сентября об этом рассуждал заместитель председателя Совбеза РФ Дмитрий Медведев, выступая на «Дне искусственного интеллекта» в центре «Сколково»: «Всё идет гораздо быстрее, чем это нам казалось. Никто ничего не ждет. Наши конкуренты, соперники, друзья, все внедряют. В тех случаях, когда люди что-то не внедряют, искусственный интеллект сам себя внедряет. И это основная философская проблема, которая стоит перед человечеством».
Правильно. Но это не только философская проблема. Это прежде всего проблема безопасности, и не какого-то отдельно взятого государства, а всего человечества. Всему человечеству не просто предлагается ускориться — это делают с ним принудительно. Без гарантий. Без страховки. И, не считая громких заявлений вроде «ИИ решит проблемы человечества», даже без понимания, зачем это нужно. «Все побежали, и я побежал»? Но это плохая цель.
Совсем недавно разработчик чата ГПТ, американская компания OpenAI, стала самой дорогой частной компанией в мире. Ее оценивают в полтриллиона долларов США. Это флагман в сфере искусственного интеллекта. Но капитан этого флагмана Сэм Альтман говорит (в беседе с генеральным директором Axel Springer Матиасом Дёпфнером): люди могут утратить контроль над искусственным интеллектом, и скорее всего это произойдет буднично. «Представьте, что происходит с чатом ГПТ уже сегодня: сотни миллионов людей ежедневно общаются с ним, вскоре их станет миллиард. И все чаще мы доверяем ему важнейшие решения в карьере, личной жизни и бизнесе», — говорит Альтман. Особенно его беспокоит «петля обратной связи»: чем чаще пользователи полагаются на советы ИИ, тем больше данных он собирает, тем умнее становится и тем сильнее влияет на решения людей. Люди же, наоборот, становятся беспомощнее. По мнению Альтмана, этот сценарий серьезно недооценивается, хотя именно он наиболее вероятная угроза.
Так вот. Как человек, который опубликовал об этом сценарии первую статью в «Московском комсомольце» еще в апреле 2023 года («Человечеству впервые предложена машинка, которая думает за него»), я утверждаю, что Альтман нечестен. Лукавство его в том, что он представляет данную угрозу как случайность. Вроде как «может случиться». Но это не случайность. Это закономерность. Это случится непременно. Нейросети будут становиться сильнее. Люди будут становиться слабее. Они будут передавать свои функции искусственному интеллекту, потому что это удобно. Потому что это выигрышно. Потому что это быстро. Потому что, скажут им, это прогресс. И в чем-то это будет прогресс, только не для человека. Для человека это будет деградация.
Когда вы слышите слово «сингулярность», под которым обычно понимают множество растущих, как грибы, научных открытий в непредсказуемых сочетаниях, стоит подумать не о том, как это круто и прогрессивно, а о том, каково будет людям всё это переваривать и усваивать, нужно ли это вообще… «Ибо какая польза человеку, если он приобретет весь мир, а душе своей повредит?» Хотя мы и не приобретем с ИИ весь мир. Но себя определенно начнем терять. Думаю, в скором времени возникнет (уже возникло) и будет шириться такое явление, как цифровая деменция.
Но вернемся к Альтману. Зачем он вообще это сказал? Сказал про подспудно вызревающую угрозу, от которой даже теоретически не предложено противоядия, — и тут же уехал в турне по Азии с целью еще большего продвижения искусственного интеллекта и привлечения еще больших денег в эту сферу. Это вообще нормально? Нет. Но это и есть парадокс. Раньше людям в голову не пришло бы тушить пожар керосином. Сейчас это происходит, причем с тем единственным обоснованием, что, если мы («хорошие парни») не поторопимся, нас опередят конкуренты («плохие парни»).
Думаю, он снимает с себя моральную ответственность. Успокаивает свою мышкой скребущуюся совесть. Потом можно будет сказать: я же предупреждал. А поскольку угроза человеческой деградации из-за ИИ преподносится главой OpenAI как «случайная», а не закономерная (еще раз: на самом деле она является закономерной), можно делать вид, что ты предупреждал, но надеялся на лучшее. И я прошу осознать: мы вообще ничего не сможем поделать с ИИ, если будем надеяться на лучшее. На то, что авось пронесет. На то, что «а вдруг». Нет, не пронесет. Это только в кино можно, закрыв глаза, промчаться по жердочке над пропастью. В реальности надо двигаться на ощупь.
Для этого необходимо переосмыслить прогресс, то есть развитие. Перестать представлять развитие эдакой рвущейся в вертикаль ракетой. Нам, человечеству, необходимо начать осмысливать развитие как гармонию сосуществования со средой. Да, это будет не так эффектно. И совсем не так амбициозно. И потребует от нас осмысленных шагов назад и вбок, а мы ведь никогда не ходили назад — только вперед, как пешки. Как фарш в мясорубке. Ключевое слово здесь «осмысленно». С пониманием, что мы делаем и зачем. Мы, то есть люди, а не ИИ.
Я пишу и сама пока не верю, что мы это сумеем. Инерция стремительного движения увлекает нас. Президент Nvidia (еще один глобальный выгодополучатель от ИИ) Грег Брокман толкует о десяти миллиардах чипов-ускорителей — по одному на каждого жителя планеты. Мы пока не умеем говорить «нет» этому «прогрессу». Но нам придется учиться это делать.