Исследование показало, что люди не смогут управлять сверхразумными машинами — Naked Science
5 минут
Ольга Иванова
7

Исследование показало, что люди не смогут управлять сверхразумными машинами

4.8

Международная группа ученых продемонстрировала, что управление сверхразумным искусственным интеллектом невозможно.

Исследование показало, что люди не смогут управлять сверхразумными машинами / ©Getty images

Работа опубликована в Journal of Artificial Intelligence Research. Опасность, которая может исходить от сверхразумного ИИ, как известно, в красках описана в блокбастерах о Терминаторе. Представители разных научных дисциплин, в том числе специалисты из Центра людей и машин Института развития человека Макса Планка, решили проверить, насколько человек способен управлять сверхинтеллектуальными роботами.

«Сверхразумная машина, которая управляет миром — звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» — говорит один из авторов исследования Мануэль Себриан, руководитель группы цифровой мобилизации в Центре людей и машин Института Макса Планка.

Чтобы ответить на этот вопрос, ученые использовали моделирование и теоретические расчеты. Как выяснилось, даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.

Дело в том, что, согласно теории информатики, любой из алгоритмов такого сдерживания — будь то программы об этических принципах или ограничение доступа к внешнему миру — уязвим и при определенных обстоятельствах вполне способен отключить сам себя. Поэтому специалисты делают вывод, что управлять сверхразумным ИИ человек попросту не сможет и ситуация рано или поздно может выйти из-под контроля.

«Мы утверждаем, что полное сдерживание в принципе невозможно из-за фундаментальных ограничений, присущих самому вычислению. Сверхразум будет содержать программу, которая включает в себя все программы, осуществляемые при помощи универсальной машины Тьюринга, потенциально столь же сложной, как состояние мира», — заключают исследователи.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
7 часов назад
13 минут
Александр Речкин

В учебниках истории XX века, на сотнях плакатах и в десятках кинофильмах о Второй мировой войне мы видели знаменитые танки, «катюши» и бороздящие небеса Ил-2. Давайте проверим, сможете ли вы отличить советскую военную технику от машин союзников и стран «оси».

Вчера, 15:24
5 минут
Илья Ведмеденко

Военно-морской флот получил многоцелевую атомную подводную лодку К-561 «Казань». Это один из самых совершенных кораблей такого типа в мире.

5 часов назад
37 минут
Александр Березин

Филипп Мандей основал целое направление исследований: он первым установил, что закисление океанов — последствие глобального потепления — угрожает обонянию и умению ориентироваться у морских рыб. Само собой, это создает угрозу их вымирания. Долго оставалось загадкой только одно: как существующие виды рыб перенесли серьезное закисление океана при прошлых изменениях климата. Теперь все проясняется: похоже, Мандей обнаружил эффект, которого никогда не было. Интересно, что вместе с ним его наблюдали еще 179 ученых — и теперь все они оказались в центре чудовищного скандала. Попробуем разобраться в деталях.

2 мая
62 минуты
Николай Цыгикало

Знаменитый ракетный комплекс «Искандер» стал одним из символов российской военной мощи. Он не покидает центра внимания экспертов и средств массовой информации, а его тактико-технические характеристики приводятся в каждом информационном ресурсе военной тематики. Но цифры цифрами, а что за ними? Посмотрим на работу «Искандера» с разных сторон, чтобы разобраться в принципах действия и логике конструктивных решений. Тогда глубина понимания позволит пройти дальше одних лишь цифр ТТХ, и при всей важности они окажутся не на первом месте. Наш материал — самый полный рассказ о работе «Искандера» в открытом доступе.

Позавчера, 17:46
17 минут
Александр Березин

SpaceX после затяжной серии аварий нормально посадила прототип Starship SN15. Огромная стальная ракета поднялась в воздух на десять километров, выполнила там сложные кульбиты, которые не могла сделать ни одна ракета ранее, а затем плавно опустилась вниз. Одни говорят, что это революция, другие — что «СССР так умел полвека назад». Кто прав и что будет дальше? Попробуем разобраться.

4 мая
4 минуты
Ольга Иванова

Ученые из Финляндии определили причины того, почему «собака бывает кусачей» по отношению к человеку и другим животным.

23 апреля
11 минут
Василий Парфенов

Действующий глава NASA в рамках общения с прессой ответил на ряд вопросов, касающихся недавних заявлений российских политиков и главы «Роскосмоса» о скором отказе от собственного сегмента МКС. Администратор заверил всех, что агентство находится в хороших отношениях с Россией, а также поделился информацией о согласовании обмена местами для астронавтов и космонавтов в пилотируемых миссиях двух стран.

16 апреля
4 минуты
Илья Ведмеденко

Исследователи установили, что обнаруженный в Баренцевом море объект — погибшая советская субмарина типа «Крейсерская». Это одна из самых больших подлодок СССР периода Второй мировой.

25 апреля
17 минут
Александр Березин

На этой неделе СМИ выдали новость, от которой можно впасть в шок: «Ранее из России уезжало около 14 тысяч исследователей [в год], теперь — 70 тысяч». Мы внимательно разобрались в ситуации и вынуждены отметить, что ничего подобного не было и нет. В реальности речь вовсе не об ученых и даже не о высококвалифицированных специалистах. Проблемы с учеными в России есть. Но в этом случае речь идет не о них, а о том, что отдельные бывшие комсомольские вожаки, удачно устроившиеся в РАН, перепутали утечку мозгов из России с отъездом из нее гастарбайтеров. Разбираемся, как это у них получилось.

[miniorange_social_login]

Комментарии

7 Комментариев

14.01.2021
-
0
+
Вон он, змей, в окне маячит — За спиною штепсель прячет, Подал знак кому-то — значит Фельдшер вырвет провода.
-
0
+
Бред какой-то. Непонятно вообще сейчас, как разум работает, как интеллект работает. А что такое сверхразум, я вообще не знаю. Программы сейчас работающие, не могут сами себя осознавать, ставить себе цели, понимать, что есть зло и добро, что есть препятствие и т.д. Да, они могут перемолоть за пару дней шахматные варианты, и начать легко обыгрывать чемпионов мира-людей. И что с того? Они не обладают сознанием на биологической основе, а других основ пока не известно. Они не могут эволюционировать в общем плане, а только в специфическом.
    12.01.2021
    -
    0
    +
    И эти люди критикуют Рогозина )) Да ведь точно та же психология привела к провалу российской космической программы. Не будет, не полетит, не сможет, неизвестно и не получится. Но у Маска таки получилось и теперь приходится кусать локти и думать что с этим делать. Так причем здесь калькуляторы? Или нынешнее состояние вычислительной техники? Речь в статье о возможности управления машиной, способной ставить цели и осознавать себя. Когда такая машина будет создана, будет немного поздно думать о контроле над ней. Увы, человечество и раньше наступало на эти грабли - сперва создавало угрозу своему существованию, а потом ломало голову что с этим делать.
    +
      ещё комментарии
      -
      0
      +
      Машина не может осознавать себя, для этого нужны нейроны, и это изменить нельзя. Может быть пока. Сознание возникает только в случае, когда таламус связан с префронтальной корой. Когда таламус не связан с префронтальной корой, то человек - либо спит, либо под наркозом. Исходя из бреда этой статьи, сверхразум тоже построен на биологической основе... Ох, долго смиялсо...
        14.01.2021
        -
        0
        +
        Честно так и не нашел где в статье сказано что "сверхразум построен на биологической основе" Наоборот все время речь идет о программах и приборах.
          -
          1
          +
          Все одно - полный бред. "Управление сверхразумом невозможно". Даже если это так - и что ? Много чем, даже давно известным, управлять нельзя сейчас, и никогда не получится управлять. Цунами, ураганами. Погодой. Движением астероидов, метеоритов, комет. Накоплением углерода в атмосфере. Химическими процессам в вашем теле, проходящими прямо сейчас. И что? Представьте такой доклад - ой, все, мы помираем, не можем остановить метаболизм в своем теле. Катастрофа, блин. Если же подразумевается некий "сверхразум" на кремниевой основе - я вот тоже не пойму, в чем страх. Кремниевые устройства раскрошить - пара пустяков. Направьте на них ульрафиолетовую лампу. Создайте сильное эл-магн. поле или сильный импульс. Отключите свет, в конце-то концов. Разум на биологич основе переживет отключение света даже на долгие годы, "сверхразум" - нет. Если кто-то боится роботов, просто не открывайте им дверь. Они до сих пор не могут ручку дверную повернуть, и нажать на полотно двери. Если под "сверхразумом" подразумеваются алгоритмы, которые быстро что-то делают, гораздо быстрее человека - ну так это что, в первый раз что ли. Станок ткацкий, созданный пару сотен лет назад, например, в сотни раз производительнее ручного ткача. И что? И станок, и "сверхразум", не осознают себя и свои действия. Повторяю еще раз, для сознания нужны нейроны. Наличие большого кол-ва нейронов - крупнейшее преимущество сапиенса, и позволившее ему так подняться. Плюс другие факторы - нейропластичность и т.д. Станком тоже не получается управлять в режиме реального времени, прямо сейчас, секунда в секунду. Только когда он пару штук полотна спрядет с ошибками, это увидят, и его застопорят. Так и "сверхразум" остановят. Если понадобится. "Ветер, вырывающий с корнем деревья, не осознает того, что он делает" (с) строфа Букко из письма Такуана "О дзене и искусстве фехтования". Обратите внимание, как тонко подмечено различие природы и человека.
            14.01.2021
            -
            0
            +
            Ой я вас умоляю. Вам до сих пор представляется тупенький терминатор из будущего который придет забрать ваши деньги, косуху и мотоцикл. Просто посмотрите Газонокосильщика, картинка лучше тысячи слов. Деньги кстати у вас может забрать уже сейчас даже простенький алгоритм, мотоцикл и куртка ему в сети без надобности. А вот чтобы остановить сверхразум распределенный в Сети придется уничтожить большую часть интернета и прочую инфраструктуру по всему миру. Что не так-то просто ведь интернет проектировался так чтобы пережить даже ядерную войну. Конечно можно откатиться в доэлектрическую эру, перерезать все провода в округе и бегать по периметру с дробовиками. Пока ИИ не отправит к вам парочку дронов с хеллфайрами. Или чего посерьезней если ему надоест с вами возиться. Что до осознания так это все чушь. Человек тоже ничего не осознает. Во всяком случае еще никто не смог объяснить как это работает. На уровне клеток мозг такой же механизм как и нейросеть. Сильно подозреваю что тут дело лишь в сложности.
Подтвердить?
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: