Зачем XXI веку человек? | Диалог Германа Грефа и Александра Асмолова об искусственном интеллекте и роли индивида

Сегодня без искусственного интеллекта происходит то же самое — и будет с искусственным интеллектом. Поэтому наша задача, на мой взгляд, как раз сделать так, чтобы как можно большему количеству людей донести необходимость выхода из очень удобной роли жертвы в роль самостоятельного актора. Это, наверное, самое основное. Если люди сумеют поменять эту роль, тогда они точно так же, как и небольшая часть, которая уже сегодня в какой-то степени готова к технологическому прогрессу, тоже начнут использовать искусственный интеллект.

Восстание машин, мне кажется, всё-таки из области фантастики. В принципе, люди и это могут устроить. Просто восстание машин, как любое другое восстание, организуют люди. Если найдутся злодеи, которым дадут устроить восстание машин, они обязательно устроят. Но я надеюсь, что будет большое количество нормальных людей, которые задумаются, что машины можно использовать и таким образом. И они не дадут никому этого сделать. Ситуация, когда машины осознали себя и посчитали, что человеки на этой планете лишние, — очень гипотетическая. Это красиво, об этом можно рассказывать сказки, можно людей пугать. Я не верю, что это произойдёт.

Эмерджентность — это свойство, присущее сложным системам. Такой типичной сложной системой является наш мозг. Сложная система может складывать комбинацию и решать задачку свойством, нетипичным для всех подсистем, которые в неё входят. Искусственный интеллект, как известно, обучается на огромных массивах данных. И очевидно, что того, чего нет в структуре этих массивов данных, искусственный интеллект ниоткуда взять не может. Из этого исходили все.

Но оказалось, что если такую сетку перекормить — то есть когда мы преступаем определённый количественный предел — сеть может делать выводы, но совершенно не по тем правилам и не на основе той информации, которую когда-то в неё закачали. И это потрясающе, этого никто предсказать не мог. И буквально, наверное, 2023 год, когда все поняли, что эмерджентность, эта последняя крепость, где мы вроде бы засели, — и она рухнула.

И сегодня мы говорим о том, что, собственно говоря, такое AGI, General Intelligence. Это порог того набора параметров, который необходим. И пока это всё количественные характеристики, когда количество переходит в качество. Порог — это примерно триллион параметров. У сетки появляется некое собственное, нельзя сказать, мировоззрение, но картинка мира, которая со временем должна мигрировать в какое-то мировоззрение. И она начинает делать выводы не на основе тех правил логики или алогичных правил, которые используем мы, а начинает использовать свою картинку мира, чтобы делать выводы.

То есть, если есть цепочка рассуждений, chain of thoughts, есть conclusion — это означает, что она, в общем, использует человеческую логику. Но иногда эта логика абсолютно нечеловеческая. потрясающие выводы, к которым бы человечество никогда не пришло. И сейчас это используется на пользу человечества. Люди начали открывать лекарственные препараты, лекарственные формы. Пытались сделать вывод: сколько ещё нужно было бы двигаться человечеству, чтобы естественным путем набрести на такой синтез белков, на такое решение? Примерно сто лет. Сетка, в частности AlphaFold, сделала это в течение одного года. И сейчас идёт целая серия открытий, скажем, новых лекарственных форм, новых подходов к лечению тех или иных болезней. Новые материалы, которые раньше человечество не могло придумать.

В этом смысле мы перешли тот порог, когда нейросети становятся достаточно универсальными в использовании в такого рода вещах, как генерация совершенно нетривиальных подходов к стабильным, считавшимся доныне нерешаемыми, проблемам.

Всегда самая большая проблема не в том, случилось или нет. Вопрос в том, насколько ты к этому готов — более или менее. Всегда быть готовым невозможно. Как говорят в экономике: кризис всегда приходит позже, чем мы ожидаем, и раньше, чем мы к этому готовы. Поэтому мы всё равно готовы не будем, оно случится раньше. Тем не менее большому количеству людей это позволяет не впасть в ступор.

Человек так устроен — его мышление очень инерционно. Должен пройти этап принятия. Но он у нас очень сильно затянулся, поэтому весь мир и колбасит. То, что сейчас называют варварством и так далее. Просто мы заигрались. И мы пропустили тот момент времени, когда нам нужно было пройти трансформацию.

В 2011, по-моему, году мы организовали на Петербургском форуме большую сессию, я был модератором. Я немножко провоцировал, и мои цитаты оттуда до сих пор ходят по интернету, меня обвиняют во всех смертных грехах. Я говорил: «Ребята, можно задать вам один простой вопрос: как мы будем жить?» Мы видим, что основа всей организации нашей жизни, которая строилась на симметрии информации, судя по всему, в ближайшие годы будет разрушена. Все основоположники государственного управления, его методов, от Конфуция и дальше, придумывали, как управлять обществом в условиях, когда большое количество людей становится грамотными. Ответ был таков, что нельзя делать грамотным всё население. И поэтому закрывались большие образовательные куски. Такие вещи, как даосизм в Китае или Каббала в еврейской культуре, были закрытыми. Тысячами лет это были закрытые учения. Передавались из уст в уста, ещё и в таком виде, что понять могли только посвящённые.

Затем фон Гумбольдт взломал эту историю и начал всех образовывать. То, что мы видим сегодня, — фон Гумбольдт ужаснулся бы, сколько лет просуществовала его несовершенная идея. Мы же до сих пор продолжаем учить так же — всех и всему. И считаем, что ничего не поменялось. Воронка информации сверху вниз через средства массовой информации уже давным-давно померла, а мы всё ещё живём в этой парадигме. И это не может работать. Было очевидно, что с этим нужно что-то делать.

И ответом является тот популизм, который мы видим в Европе. Или ужесточение режима, который мы видим в целом ряде других стран. Люди уходят от решения проблем в привычную модель поведения: одни начинают очень жёстко проводить свою линию, другие начинают подстраиваться под большинство тех людей, от которых, собственно, зависит их дальнейшая жизнь и судьба. К сожалению, это немножко скучно. И это не будет работать в будущем. Ни в одном обществе эту тему не принято обсуждать. На Западе попробуй пообсуждай: вы знаете, наша демократия трещит по швам. Но, слава богу, пришёл Трамп. Он вдруг издал указ, что чёрное — это чёрное, белое — это белое. Здорово. Но он один пока. И посмотрим, как далеко он зайдёт. На самом деле это очень серьёзная тема.

Просто нельзя сравнивать технологию искусственного интеллекта ни с одной другой технологией. Технологии развивались столетиями, а сейчас мы видим, что за месяцы происходят радикальные скачки. Я утверждаю, что нет такого человека на белом свете, который способен адаптироваться к такой скорости изменений. Мы, которые сидим на острие всего этого дела, каждый раз жутко удивляемся, что получилось. Потому что получилось не то, что мы ожидали. А как всем остальным людям? Это первое — скорость изменений.

Второе. Ни одна технология до этого не ставила задачу «хакнуть» человека. Искусственный интеллект ли такую задачу перед собой ставил или люди, развивающие искусственный интеллект. Как мы видим, добились в этом огромных успехов. Говорят, мы пережили и паровоз, и Эдисона, и так далее. И здесь переживем. Наверное, так и будет. Просто люди, которые за это отвечают, так рассуждать не должны, потому что очень много отличий от того, что делал Эдисон.

И очень сильно поменялись обстоятельства. Технология, которая претендует на роль человека в обществе, и технология, которая сама себя развивает с помощью человека с такой скоростью, что человек не успевает к этому адаптироваться. Даже тот человек, который всё это производит. И это другие обстоятельства. Не надо говорить, что это страшилки. Просто это факт.

Дальше вопрос — как мы на это ответим. И отвечать на это надо в первую очередь в области образования, как обычно. Допустим, китайцы совершенно спокойно, без всякой политики, без ничего, тотально перестраивают систему образования. Мы тотально начинаем всё запрещать. То есть мы сейчас говорим: цифровизацию вон из школы. Окей, всё, что угодно, конечно, можно «вон», но от этого оно из нашей жизни «вон» не уйдёт.

Вот такая простая формула. Поэтому, конечно же, это то, что надо обсуждать. Здесь ничего страшного нет. На самом деле технология искусственного интеллекта даёт гигантское количество возможностей человеку — если он научится это использовать. Если он зажмётся, испугается, то проиграет. Или общество, которое зажмётся и испугается, или организация.

Скорость её внедрения тоже поражает. Если раньше можно было посидеть и подождать, то сегодня уже никому не отсидеться в сторонке.

По поводу тайных учений. Я не каббалист и не даос. И я как раз за то, чтобы обучать детей, а не запрещать им что-то. Мне приписывают, что я сказал, что ничему учить нельзя — так будет проще народом управлять. Этот поезд уже ушёл. Можно никого ничему не учить, но, слава богу, всё есть здесь, в устройствах. И сейчас дети здесь учатся. И учатся, на самом деле, зачастую значительно качественнее, чем физически посещая школы. Проблема в том, что они тогда не социализируются. И это беда. Поэтому нам, на мой взгляд, физическая или «оффлайновая» школа обязательно нужна. И нужна фигура учителя, просто критически нужна. Может быть, значительно больше нужна, чем раньше. Потому что без социализации — кто мы?

Совсем недавно, как вы помните, человек по фамилии Маск, когда он ещё не был настолько политическим лидером, сказал, что надо приостановить, замедлить разработки интеллекта. Действительно — этика, боль, что он будет с нами делать? И другой странный человек, лингвист, которого иногда называют Эйнштейном XX века, по имени Хомский ответил по-другому. «Я не подпишу декларацию с Маском и другими». А почему? — спросили его. «Да, не подпишу, потому что не там ищут. Надо искать в образовании», — сказал он. Надо искать в создании критического мышления, в развитии воображения. И только тогда мы найдем те ходы, когда действительно будем коэволюцией человека и искусственного интеллекта. Извините, я слишком возбудился. Вы меня возбудили, Герман Оскарович.

Он пока всё-таки не может отличить юмор от не-юмора. Он не может понять, почему смеяться нужно в том или ином месте, потому что он основан на логике, а не на чувстве. Чувств у него нет и не может быть. Это действительно так. И вот наш с Александром Григорьевичем любимый Александр Галич, у него есть песня, где звучит фраза «С добрым утром, Бах!» — говорит Бог. «С добрым утром, Бог!» — говорит Бах. И это то, чего Бог никогда не скажет машине: «С добрым утром». Спасибо.

Если мы вовремя не адаптируемся, то получится, что руками прогрессистов мы выстелим дорогу в ад. Это правда. Именно поэтому надо всё-таки немножко думать о том, куда мы идём, зачем мы идём. Эмоции человека — это придуманная история. Я имею в виду, это то, чего искусственный интеллект не может и никогда не сможет. Он совершенно спокойно уже это делает. И одним из трендов 2024 года был эмоциональный искусственный интеллект. С чем пока ещё не очень хорошо искусственный интеллект справляется — это с распознаванием сарказма. И то…

Почему антропоморфный робот? Потому что мы весь мир сделали под себя. О двух ногах, о двух руках. Ещё можно сделать собачек, потому что мы их очень любим, и кое-что ещё сделали для них с кошечками. Поэтому будут ещё четвероногие роботы. Но это всё будет. Неважно когда. Три года, пять лет. Значения не имеет. Это не означает, что в этом мире нам места не будет. Нам просто-напросто нужно эволюционировать и творить значительно более прекрасный мир. Чем меньше мы будем впадать в позицию жертвы — где бы ещё найти что-нибудь такое, что бы нам осталось? Да не надо ничего искать. Нужно думать, как с помощью этой машины мы сделаем что-то принципиально другое. Как мы в конце концов уйдем из той позиции, которую сейчас обсуждали — кто круче и так далее, — и перейдем, наконец, на пятый уровень культуры, который человек генерирует в состоянии гармонии. Когда он перестанет быть круче, чем кто-то — круче, чем робот, чем кошечка, чем собачка или чем другой человек. А будет использовать эту самую силу собственного же изобретения для того, чтобы делать мир лучше.

Нет никакой гарантии, что это произойдёт сразу же. Сегодня нам не приходится охотиться неделями, не потребляя пищу, добывая себе какое-то пропитание, поэтому мы все имеем признаки ожирения. Или почти все. Вот Александр Григорьевич нет.

На самом деле я про другое. Главное — понять и не оказываться в матрице, что только конфликт движет мир. И то, что вы говорили, — солидарность, взаимопомощь — это двигатель эволюции. Ведь искусственный интеллект невероятно силён, а мы с ним начинаем работать как с кем? Если мы смотрим на него по теории конфликта, что он против нас, и делаем заговор, мы точно проиграем. Скажите, пожалуйста: нескромный вопрос. У кого в нашей замечательной аудитории есть живые питомцы? Поднимите руку, пожалуйста. Слушайте, как это здорово! Искусственный интеллект — наш талантливый питомец! И в этом смысле мы с ним научимся общаться. Мы научимся обожать наших питомцев. Только увидьте в них не злодеев, а живите с ними взаимопомощью, в уникальном симбиозе. Будущее — за симбиотическими диадами.

Поэтому, когда у нас такой горизонт планирования, способность предсказывать будущее, как известно, стремится к нулю. Я выглядел бы полным глупцом, если бы сейчас взялся за предсказание. Я не знаю, кем будет искусственный интеллект, я не знаю, кем будет человек в 2035 году. Но человека проще предсказать, наверное. Каким будет человеческое общество — невозможно предсказать на десять лет.

Мы в прошлом году утверждали нашу стратегию на три года. Казалось бы, мы очень сильно пофантазировали, но мы видим, что реальность опережает даже наши самые смелые фантазии. Мы пытались заглянуть как раз в 2035 год. Но это занятие для тренировки ума. Раньше можно было на бирже предсказывать цену на пшеницу на следующие 50 лет и строить бизнес-планы. Сегодня что мы можем сказать? Какой будет курс доллара или курс рубля? Господи, вы знаете, какой будет цена на нефть? Никто не может сказать. А цена на металлы? И так далее. А это производная нашего курса рубля. И какое количество санкций ещё примут? И так далее, и так далее. Сегодня этого никто не может сказать.

Поэтому надо людям, мне кажется, определить тот спектр факторов, на которые мы можем оказать влияние. И в первую очередь прикладывать руку к ним. Потому что мы зачастую тратим огромное количество нервной, психической, физической энергии на то, что от нас вообще не зависит. И в результате растрачиваем свою жизнь попусту.

Мы пытаемся, работая с тремя очень талантливыми молодыми ребятами, найти комбинацию взаимодействия с искусственным интеллектом. Причём вы знаете, что у нас произошло? Идут такие научные семинары, просто с ума сойти! И я могу сказать, что первоначальная наша позиция была, Вероника, как у вас: что надо найти, в чём мы обгоним. Мы уже практически нашли три вещи.

Во-первых, интуиция, догадливость, потому что есть короткий путь к истине. Он не рациональный, он какой-то другой. И догадливость можно развивать.

Второе — эмпатия, потому что да, человек живёт в социальных взаимодействиях. А искусственный интеллект не является продуктом эволюции, не породил эмпатию. И третье — это воображение. Так вот, когда мы к этому пришли, мы потом, Герман Оскарович, в тяжёлых обсуждениях пришли ровно к такой постановке. Если мы будем в эффективности конкурировать с искусственным интеллектом, то мы превратимся в инструменты искусственного интеллекта. Нужно к матерям собачьим сменить постановку задачи и поставить себя и свою целостность в центр всего.

И в связи с этим будущее мы можем не то чтобы предсказывать, но, я бы сказал, воздействовать на него. Через что? Будущее состоит из двух вещей. Из обстоятельств, которые нам очень трудно предсказать, — но это не означает, что нельзя. Но в целом не в этом даже наша сила. А наша сила в том, что у нас есть цели. Будущее — это воплощение некоторых наших целей и желаний. Вот этим надо заниматься.

И наша с вами стратегия, дорогой Герман Оскарович, я имею в виду Сбер — у нас что, цели поменялись? Нет. У нас несколько поменялись обстоятельства. Значит, будем корректировать методы действий, не меняя те цели, которые мы, я бы сказал, так сладко вырабатывали в прошедшее время. Спасибо вам, уважаемые друзья и коллеги. Теперь, Герман Оскарович, я готов: можно бросить в меня камерой. Спасибо.

Кто мог себе представить, что в конце 2022 года у нас появились первые реальные результаты у обученных на базе LLM-моделей — чего-то похожего на человеческую совместимость с точки зрения соответствия человеческому интеллекту? За два года произошёл такой скачок, какого никто не мог себе представить. И к концу этого года мы сделали первых агентов. Релевантность была порядка 20%. Через три недели — 30%, ещё через месяц — 40%. Колоссальный прогресс.

И если раньше, помню, я разговаривал со многими людьми, с руководством страны, и говорил, что искусственный интеллект, похоже, будет проектом по влиянию на человечество, похожим на проект ядерной бомбы. Сегодня для меня очевидно, что это проект, который с чем-то сравнивать абсолютно некорректно, потому что нет такой сферы человеческой жизни, которую не взорвёт. В позитивном смысле этого слова — в смысле disrupt.

80% открытий в 2024 году сделано с помощью искусственного интеллекта. Честно сказать, искусственный интеллект пока находится на уровне «бэби», если смотреть генерально на развитие технологий. И он уже совершает такие прорывы. Что будет в 1935 году? Будут радикальные изменения всего: нашего быта, общественного устройства, всего того, что мы делаем сегодня на работе. И здесь вопрос — вы оптимист или пессимист?

Мне кажется, что самое главное время, которое сейчас наступило для человечества, — это возможность инвестиций в самих себя, то есть в образование: в познание своей психики, в познание возможностей своего интеллекта. И самое главное — с пониманием того, что тебя мотивирует, чего ты хочешь. Целеполагание и мотивация. И если мы в это вложим серьёзные усилия, в том числе с помощью искусственного интеллекта, то поможем человечеству ставить какие-то цели.

Мы провели опрос наших клиентов. 80% вообще не ставят цели. 20% ставят цели, которые и целями-то назвать тяжело. Например, купить дачу, машину или квартиру, поехать летом к тёплому морю или ещё что-то такое. Но это не цели. И мне кажется, здесь лежит огромная возможность для всех нас.

Первое. Видя эти гэпы, мы можем сделать огромные прорывы как минимум в образовании наших детей. Дать им то, что называется мягкими навыками. Мы вместе с нашими замечательными партнёрами, компанией «Яндекс», потратили кучу времени, когда утверждали стандарты. Мы вписали туда мягкие навыки и потратили много времени, чтобы описать, что это за навыки. И цифровые навыки.

Прошло, по-моему, четыре года. Прогресс — ноль. А 85% успеха человека в жизни — это мягкие навыки. Если спросить в том числе присутствующих в этом зале, что такое мягкие навыки, мы получим такое количество ответов, и в подавляющем большинстве, боюсь, они не будут иметь ничего общего с их реальным наполнением. Вот это проблема, вот то, над чем нужно работать.

Мы думаем о том, каким будет искусственный интеллект в 2035 году и как мы будем жить. Давайте подумаем, что мы сегодня делаем в системе образования, как мы учим учителей, которые должны учить наших детей. Ни в одном ВУЗе — ни в МГУ, ни даже в ВШЭ — нет системного преподавания мягких навыков. Вот это проблема. Так же, кстати говоря, как и цифровых навыков.

Но когда у тебя два производителя в стране, они известны, это крупные компании, то в принципе можно, наверное, пойти по более мягкому пути. Поэтому нельзя сказать, что этим никто не занимается. Занимаются. И, конечно же, есть, скажем так, неформальный обмен. Если мы видим, что злодеи используют тот же самый ChatGPT, какие-то его уязвимости — а Сбер является самой атакуемой со стороны всех этих ребят компанией в мире — мы обязательно сообщаем в OpenAI, и они закрывают это. Есть такой неформальный обмен. Трафик есть.

И вы абсолютно правы, мы должны заниматься анализом рисков. К этому надо относиться предельно серьёзно. Опять-таки, слава богу, мы в состоянии сотворить любые барьеры для этих самых шестерых ребят из подвала. Как долго это будет продолжаться — я не знаю, потому что есть опенсорсные модели, и вот это пока нерешённый вопрос.

Сегодня есть те, кто проигрывает конкуренцию, в частности, Фейсбук, у них есть модель LLaMA. Весь проигрыш, конечно, не исчисляется годами, это всегда очень короткий период времени. Но тем не менее сегодня в этом виде спорта доли секунды — это очень большой отрезок времени. Они выкладывают open source, и open source могут использовать все. И тогда падает квалификационный барьер входа на рынок в части интеллекта человека. Но работает второй — нужны очень мощные дата-центры, причём определённой конфигурации, чтобы можно было эти модели эффективно обучать.

Пока общего решения человечества не выработало. Но и по более важным проблемам текущего времени мы пока тоже не научились договариваться, поэтому это не исключение. Но конкуренция за право абсолютного вооружения… Мы видим сегодняшнюю войну. Как только эта война станет автономной — а искусственный интеллект придаст ей автономность, — это будет совершенно другая война. То же самое касается безопасности, охраны общественного порядка, интеллектуальной деятельности. Те возможности, которые дают сегодня технологии, — переизобретать то, что мы делаем, это потрясающе интересно.

Слава богу, мы как страна здесь не на последнем месте. Мы в числе лидеров. Мы не на первом месте и вряд ли будем на первом месте, увы. Но то, что мы можем быть в пятёрке лидеров в мире, — не так много сфер, где мы обладаем таким ресурсом. Это точно. Поэтому важно его не потерять и использовать. Важно, чтобы бизнес это осознал, осознали руководители наших учреждений, университетов.

Если не будет системы образования, не будет продвинутых детских садов… Китайцы создали учебники по искусственному интеллекту, начиная с пяти лет. Последний учебник для одиннадцатого класса у них называется Python. То есть сто процентов школьников будут выходить питонистами. Как с этим соревноваться? А мы всё ещё объясняем, говорим: знаете, ребята, информатизация, которую вы преподаете в школе, уже никому не нужна. Это устарелый, никому не нужный предмет. Нужны, как мы их условно назвали, digital skills — это абсолютно другой набор навыков и знаний, которые нужно давать детям. Но мы, к сожалению, эту штуку не пробили. Поэтому я всех призываю перестать бояться, а быстрее это использовать.