Сергей Марков: сценарий «Терминатора» не грозит нам ни в близком, ни в далеком будущем

[Naked Science]: Технологиям автоматизации интеллектуальных задач многие тысячи лет. Почему тогда о них столько разговоров именно в последние годы?

[Сергей Марков]: Искусственный интеллект — это область науки и технологии, которая занимается автоматизацией решения интеллектуальных задач. Есть задачи, которые люди решают с помощью своего интеллекта. Если мы создаем алгоритм, который способен автоматизировать решение таковых, это и есть ИИ.

В этом смысле перед нами действительно очень древняя сфера, сам термин «искусственный интеллект» стал достоянием общественности благодаря знаменитому Дартмутскому семинару 1956 года, а в среде специалистов использовался еще раньше.

Известный математик, оказавший большое влияние на развитие информатики, Алан Тьюринг, например, использовал термин «машинный интеллект». Самим технологиям автоматизации решения интеллектуальных задач многие тысячи лет: они появились задолго до того, как был создан первый компьютер.

Но именно за последние 10-15 лет даже те задачи, которые еще вчера с помощью машин нормально не решались, теперь сдались перед новыми методами, новыми подходами.

[NS]: О чем конкретно речь? Какие новые подходы перевернули эту отрасль?

[СМ]: Это произошло за счет влияния трех основных факторов. Первый — появление новых моделей ИИ: глубоких нейронных сетей — современных нейросетевых архитектур, новых способов обучения моделей, их правильной инициализации и многих других математических методов в области машинного обучения.

Второй фактор — рост вычислительных мощностей, которые мы применяем в обучении таких моделей. Компьютеры становятся быстрее, кроме того, появляются специализированные машины для обучения искусственных нейросетей.

Третий фактор — объемы цифровых данных, которые мы используем для обучения моделей. Человечество удваивает объем своего цифрового следа примерно каждые два года. Это означает, что мы накапливаем все большее количество цифровых данных, которые можем использовать для обучения моделей.

Эти три фактора и привели к началу революции глубокого обучения, которая продолжается уже более 10 лет. За эти годы мы сильно продвинулись в решении проблем дискриминативного ИИ, то есть в задачах распознавания образов, например изображений и речи. Во-вторых, произошла революция генеративного искусственного интеллекта, начало которой пришлось на середину 2010-х. Особенно важным стало появление модели «трансформер» в 2017 году, с чего начался бум больших предобученных языковых моделей — так называемых фундаментальных моделей. Именно благодаря этому у нас сегодня есть и генерация картинок по тексту, и ChatGPT, и много чего еще.

Мы находимся на пороге создания систем интерактивного ИИ, которые при решении задач смогут взаимодействовать с другими системами, использовать внешние инструменты, строить сложные последовательности рассуждений.

[NS]: Многие уверены, что ИИ никогда не сможет стать подобием человека, поскольку у него нет собственных воли и сознания. Что вы об этом думаете?

[СМ]: Нет никаких фундаментальных законов, которые запрещали бы создать систему, обладающую сознанием. Мозг человека, который имеет сознание, — физический объект. Поэтому создание систем, похожих на наш мозг, вероятно, будет возможно.

Пока мы от этого далеки. Во-первых, потому что все наши нейросетевые модели по своей сложности и брутто-вычислительной мощности еще существенно уступают мозгу. Во-вторых, чтобы появились штуки вроде сознания, исходя из наших современных представлений (а они проистекают из эволюционной теории сознания, которая предполагает, что оно возникло как продукт социальных отношений), нужны эксперименты по крупномасштабному обучению в мультиагентных средах (то есть таких, где действует много «представителей одного вида» — обучающихся моделей, которые взаимодействуют друг с другом) с весьма специфичными условиями, очень вычислительно затратные. На сегодня нам это не по карману.

[NS]: Получается, скептики правы, когда говорят, что сегодняшний ИИ, безусловно, лишен самосознания?

[СМ]: Наши современные модели не обладают самосознанием — это некое сглаженное отражение цифрового следа человечества. Да, они способны решать многие интеллектуальные задачи, они стали гораздо универсальнее. Если 10 лет назад практически все модели, которые мы обучали, были узкоспециализированными и могли решать лишь определенную интеллектуальную задачу, то сегодня есть системы, делающие это на широком спектре, — вроде ChatGPT, GigaChat и так далее.

При этом у нас есть очень хорошие, продвинутые в когнитивистике модели. Если ставим перед собой задачу моделировать биологические процессы в нервной ткани, то на эту тему есть мегапроекты — например, Human Brain Project, который объединяет в себе большое число нейрофизиологов, когнитивистов, специалистов по вычислительной технике. Все они занимаются моделированием работы биологических нейронных сетей.

В этой сфере есть определенные успехи, но с прикладной точки зрения это не так уж важно. Наши самолеты не машут крыльями, когда летают. Можем ли мы сделать искусственную птицу? С этим у нас не очень, но проблему полета решили. Поэтому технологии ИИ — не про точное моделирование того, как работает мозг, а про то, как решать интеллектуальные задачи доступными нам инструментами. Так что искусственные нейронные сети отличаются от биологических в большинстве случаев довольно сильно.

[NS]: Недавно вышло исследование, которое многие СМИ подали как пример того, что языковые модели научились обманывать, хотя никто не учил их этому, более того, их программировали быть честными. Что вы об этом думаете?

[СМ]: Я бы посоветовал быть осторожными с очередными сенсациями из мира научпопа. В первую очередь потому, что журналисты регулярно перевирают результаты научных исследований. Ученые пишут одно, а научно-популярная пресса — другое: упрощенное, с громким заголовком. К сожалению, халтура и кликбейт нередко процветают в нашем научно-популярном сообществе.

Кроме того, важно читать любые такие новости дальше заголовка. Для начала: никаких проблем сделать систему ИИ, способную обманывать, нет и никогда не было. Обмануть может даже простая программа, печатающая на экране «2 + 2 = 5». Какой ужас, оказывается, в компьютере не всегда написана правда!

Еще в прошлом десятилетии создали программы для игры в покер, способные блефовать и обыгрывать людей. Это не проблема — научить модель обманывать. Заголовок сразу же вводит читателя в заблуждение. Во-первых, утверждение о том, что «искусственный интеллект научился обману» звучит примерно столь же нелепо, как «умножение матриц научилось обману», «математическая логика научилась обману» и тому подобное.

Область науки и технологий не учится обману, обманывать учатся конкретные системы — и создание таких систем, как я уже говорил, не новость. Что касается второй части заголовка («…и может стать опасен»), так и хочется сказать: «А может и не стать».

Опасность систем ИИ никак напрямую не связана с их способностью обманывать людей, хотя, конечно, злоумышленники могут использовать системы ИИ в том числе для того, чтобы вводить людей в заблуждение. Но так было и раньше.

[NS]: Нужно ли нам как-то регулировать «злой» ИИ уже сейчас?

[СМ]: Нет никакого «злого искусственного интеллекта» — это полная ерунда. Кому-то хочется хайпануть на ровном месте. Не надо приписывать этим моделям наличие собственной воли — ее нет и при современном уровне развития технологий быть не может. Сценарий «Терминатора» не грозит нам ни в близком, ни в далеком будущем. Здесь нужно различать реальные риски, связанные с развитием алгоритмических технологий, и голливудские сказки.

Реальные риски таковы, что бездумное применение алгоритмических систем может приводить к возрастанию неравенства, несправедливым решениям в отношении отдельных людей или социальных групп и так далее.

Если же говорить об экзистенциальных рисках, то они, на мой взгляд, могут быть связаны скорее с недостаточным развитием технологий ИИ. Наше технологическое могущество растет, «апокалипсис дешевеет». Если еще 100 лет назад человечество не могло нанести непоправимый ущерб биосфере и себе как виду, то за последние 50 лет это стало возможно благодаря прогрессу в создании ядерного оружия.

Сегодня опасность возросла еще больше, ведь появились и другие потенциально опасные технологии — например, современный биотех. При этом человеческий разум во многом ограничен биологическими рамками — наш мозг почти не изменился за последнее столетие, наши социальные структуры тоже зачастую архаичны. Откуда же возьмется та «большая ответственность», которая должна следовать за «большой силой»? Достижима ли она без технологических инструментов, предназначенных для усиления возможностей человеческого разума, то есть систем ИИ?

[NS]: Чем же системы ИИ помогут людям избежать рисков «технического апокалипсиса»?

[СМ]: Люди, у которых есть продвинутые системы аналитики и моделирования, средства эффективной коммуникации, интеллектуальные средства обучения и психологической поддержки, платформы для коллективного принятия решений, смогут действовать куда разумнее, чем те, кто лишен всего этого и имеет в своем багаже лишь иррациональное поведение, связанное с неуправляемой агрессией, когнитивными искажениями, предрассудками, заблуждениями, ограниченностью и так далее.

Возможно, нашим спасением от проклятия техноапокалипсиса станет именно технологически улучшенный человеческий интеллект, объединенный с машинами в единую систему, — своего рода «аугментированная прямая демократия». Если же такой новый социотехнологический уклад не возникнет, то нас может ждать глобальная катастрофа. Поэтому попытки ограничить или запретить развитие технологий ИИ могут создать значительно большие риски, чем появление опасного для человечества сверхразума.

[NS]: Какие основные профессии в ближайшем будущем заменит ИИ?

[СМ]: Под влиянием ИИ многие профессии не столько будут заменены, сколько переживут трансформацию. Еще вчера врач должен был иметь кучу знаний и применять их в своей практике, а сегодня ему достаточно уметь пользоваться специализированными поисковыми системами, постоянно учиться новому.

Однако развитие новых технологий приводит и к появлению большого количества новых рабочих мест. За последние 200 лет уровень безработицы в целом изменился мало. Например, индустрия компьютерных игр, появившаяся благодаря развитию вычислительной техники, создала рабочие места не только для ИТ-специалистов, но и для дизайнеров, маркетологов, управленцев, сотрудников HR.

Проблема новых технологий не в том, что людям становится некуда себя применить, ведь в обществе есть множество мест, где дополнительная рабочая сила может быть полезна. Например, благодаря увеличению числа педагогов можно уменьшить численность школьных классов до пять-семи человек, а молодым мамам не будет лишней помощь квалифицированных нянь. Строительство дорог и дополнительного жилья, освоение мирового океана, инженерная деятельность, наука — везде дополнительные работники могут принести пользу.

Проблема в том, как обеспечить переподготовку большого количества людей в относительно короткие сроки, как направить экономию, возникающую в результате автоматизации, на пользу всему обществу, а не немногочисленным компаниям и индивидам.

[NS]: Расскажите об основных российских альтернативах ChatGPT.

[СМ]: Самые крупные — GigaChat и YandexGPT. Эти модели могут примерно то же самое, что и ChatGPT. С помощью таких систем можно сгенерировать или классифицировать текст по заданным критериям, находить ответы на вопросы, строить цепочки рассуждений, создавать изображения, перефразировать и переводить тексты, генерировать программный код, устраивать мозговой штурм и многое другое.

[NS]: Когда, по вашему мнению, появится ИИ уровня человека?

[СМ]: Чтобы ответить на этот вопрос, важно понять, что такое уровень человека. Интеллект — это не какое-то число. Нельзя сказать, что вот у нас был уровень интеллекта 50 баллов, а теперь стал 51, хотя различные тесты на «определение уровня интеллекта» популярны.

Дело в том, что наш ум — это умение решать разные интеллектуальные задачи. Охотник-собиратель лучше справится с задачей обмануть антилопу на охоте, а городской житель — с абстрактной головоломкой. Но если вы возьмете тест Айзенка на IQ, то окажется, что последний на две головы превосходит первого. Однако это не так: отправь такого горожанина на необитаемый остров, и он просто не сможет там выжить, не имея специальных навыков.

[NS]: Получается, вопрос «Когда ИИ достигнет уровня человека» — это вопрос «Когда апельсин достигнет уровня яблока»?

[СМ]: Да, поэтому сравнивать ИИ и людей крайне трудно. Некоторые задачи уже сегодня решаются системами ИИ на сверхчеловеческом уровне, в то время как другие для них все еще очень сложны.

Попробуйте попросить ChatGPT отсортировать тысячу чисел по возрастанию. Окажется, что такую простую задачу для человека эта языковая модель выполнить не сможет. Или попросите ChatGPT придумать к какому-нибудь русскому слову 10 рифм. Эта языковая модель довольно плохо играет в шахматы (в отличие от специально созданных под такие нужды программ), даже не может хорошо решать арифметические задачи — с этим куда лучше справляется обычный калькулятор. Модель легко нарисует астронавта, скачущего на лошади, но если попросите ее изобразить лошадь, скачущую на астронавте, то человек сделает это куда успешнее.

Когда появятся системы, способные делать все то, что делают люди, — неизвестно. Прогнозы очень разные. Можно, конечно, экстраполировать, продлить нынешние тренды в бесконечность и сказать, что к концу 2020-х годов у нас будет достаточно вычислительных мощностей, чтобы симулировать работу мозга. Проблема в том, что 80 процентов пути в таких инженерных задачах обычно проходится за 20 процентов времени. Сколько уйдет времени на эти 20 процентов — неясно.

По мере приближения к «финалу» нам будет все труднее ликвидировать нерешенный остаток. Если вы взгляните на прогнозы специалистов, то кто-то говорит, что ИИ уровня человека появится уже в следующем году. Просто сейчас период общественного энтузиазма по поводу прогресса в области машинного обучения: когда люди запустили на орбиту Земли первый спутник, все думали, что уже через 10 лет мы построим базу на Марсе, а через 30 — полетим к звездам.

[NS]: Когда вы лично ожидаете достижения ИИ такого высокого уровня?

[СМ]: На мой взгляд, универсальный ИИ появится немного позже, чем кажется на первый взгляд, — не в 2027 году, а, скорее, в начале 2030-х. Многие думают, что после этого произойдет какой-то интеллектуальный взрыв, но сверхинтеллект, скорее всего, не появится никогда. Не будут созданы системы, превосходящие человека настолько, насколько мы, например, превосходим муравья. Причины — физические лимиты и те, что есть в теории информации: мы не можем бесконечно наращивать скорость вычислений в машинах из-за физических ограничений (речь идет о лимите Бремерманна в современной версии, соответствующей теореме Марголюса — Левитина, термодинамических ограничениях, проистекающих из принципа Ландауэра, ограничениях параллельных систем, таких как законы Густавсона — Барсиса и Амдала).

Кроме того, «интеллект» в решении отдельных задач растет при увеличения скорости вычислений лишь незначительно. Если вы начнете думать в 100 раз быстрее всех окружающих людей, это не означает, что уговорите любого человека на улице отдать свой кошелек или станете лучше разбираться в квантовой механике, чем специалист по ней. Ваши шансы, конечно, поднимутся, но не настолько.

[NS]: Даже в самой далекой перспективе не маячит угроза того, что искусственный интеллект начнет доминировать над нами, его создателями? Нет угрозы появления машинного сверхразума?

[СМ]: Систем, которые будут тотально доминировать над людьми во всем, не будет, а вот умные помощники появятся. У нас будет то, что раздвигает границы возможного для человеческого разума.

У людей нет клыков — мы делаем вилки, нет меха — изготавливаем теплую одежду, не умеем перемножать в уме большие числа — создаем калькулятор. ИИ нужно воспринимать примерно так же: это средство для того, чтобы просто раздвинуть границы возможного. А сверхразум, заменивший всех людей, давайте оставим адептам не слишком научной фантастики.