Исследование показало, что люди не смогут управлять сверхразумными машинами — Naked Science
5 минут
Ольга Иванова
7

Исследование показало, что люди не смогут управлять сверхразумными машинами

4.8

Международная группа ученых продемонстрировала, что управление сверхразумным искусственным интеллектом невозможно.

Исследование показало, что люди не смогут управлять сверхразумными машинами / ©Getty images

Работа опубликована в Journal of Artificial Intelligence Research. Опасность, которая может исходить от сверхразумного ИИ, как известно, в красках описана в блокбастерах о Терминаторе. Представители разных научных дисциплин, в том числе специалисты из Центра людей и машин Института развития человека Макса Планка, решили проверить, насколько человек способен управлять сверхинтеллектуальными роботами.

«Сверхразумная машина, которая управляет миром — звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» — говорит один из авторов исследования Мануэль Себриан, руководитель группы цифровой мобилизации в Центре людей и машин Института Макса Планка.

Чтобы ответить на этот вопрос, ученые использовали моделирование и теоретические расчеты. Как выяснилось, даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.

Дело в том, что, согласно теории информатики, любой из алгоритмов такого сдерживания — будь то программы об этических принципах или ограничение доступа к внешнему миру — уязвим и при определенных обстоятельствах вполне способен отключить сам себя. Поэтому специалисты делают вывод, что управлять сверхразумным ИИ человек попросту не сможет и ситуация рано или поздно может выйти из-под контроля.

«Мы утверждаем, что полное сдерживание в принципе невозможно из-за фундаментальных ограничений, присущих самому вычислению. Сверхразум будет содержать программу, которая включает в себя все программы, осуществляемые при помощи универсальной машины Тьюринга, потенциально столь же сложной, как состояние мира», — заключают исследователи.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
7 часов назад
5 минут
Илья Ведмеденко

Российские инженеры приступили к опытно-конструкторским работам в рамках проекта истребителя-перехватчика, получившего обозначение МиГ-41. В будущем самолет должен заменить МиГ-31 и дополнить Су-57 пятого поколения.

Вчера, 20:05
4 минуты
Илья Ведмеденко

Компания Dynetics провела успешные тесты перспективной воздушной системы X-61A Gremlins, предполагающей запуск БПЛА с борта самолета-носителя. Во время испытания беспилотник находился в непосредственной близости от C-130.

9 часов назад
5 минут
Илья Ведмеденко

Согласно представленным данным, российских специалистов исключили из экспертной группы, которая обсуждает перспективы создания новой станции на орбите Луны. Ранее стало известно о противоречиях технического характера, возникших между Россией и Западом.

Вчера, 19:05
4 минуты
Мария Азарова

Пациент — уроженец Исландии Феликс Гретарссон, лишившийся верхних конечностей более 23 лет назад из-за несчастного случая на работе — уже идет на поправку.

22 января
52 минуты
Александр Березин

Решение Совета по космосу РАН повременить с созданием сверхтяжелой ракеты для полетов на Луну звучит странно. Куда откладывать лунную ракету, когда в США средство полета туда отправится в космос уже в 2022 году? Если присмотреться к ситуации внимательно, все еще хуже. Starship — не просто ракета для полетов к Луне и Марсу, а технологическое решение, которое навсегда перевернет военно-политический баланс на Земле. Попробуем разобраться, откуда у «Роскосмоса» такое нежелание посылать людей в дальний космос и как прорывной проект Илона Маска может оказаться дорогой к настоящей Звезде Смерти.

22 января
4 минуты
Ольга Иванова

Особенно это касается витаминов D и A, а также холестерина и незаменимых аминокислот. Все эти показатели у детей, которых кормили в соответствии с веганским меню, оказались значительно ниже, чем у малышей, придерживавшихся обычной диеты.

4 января
2 минуты
Илья Ведмеденко

В России приступили к летным испытаниям нового Ту-214. По имеющимся данным, речь идет о третьем и заключительном экземпляре Ту-214ПУ, изготовленном по контракту от 2017 года.

6 января
42 минуты
Александр Березин

Попытки нашей страны создать замену сверхмассовому биплану советской эпохи терпят неудачи вот уже тридцать лет. Причина проста: кризис легкомоторной авиации в целом. Когда-то самая передовая часть авиастроения сегодня застряла на решениях большой древности — и без резкого изменения всей концепции "летающего такси" так и не увидит заметных результатов.

4 января
7 минут
Василий Парфенов

Наступление Мирового океана на сушу, как правило, связывают с глобальным потеплением. Однако испанские геологи описали еще одну проблему, которая только усугубляет ситуацию. Они подсчитали, что из-за проседания почв территория, на которой проживает 19% населения Земли, окажется ниже уровня моря уже к 2040 году.

[miniorange_social_login]

Комментарии

7 Комментариев
2 недели назад
-
0
+
Вон он, змей, в окне маячит — За спиною штепсель прячет, Подал знак кому-то — значит Фельдшер вырвет провода.
Семен Курсаков
2 недели назад
-
-1
+
Бред какой-то. Непонятно вообще сейчас, как разум работает, как интеллект работает. А что такое сверхразум, я вообще не знаю. Программы сейчас работающие, не могут сами себя осознавать, ставить себе цели, понимать, что есть зло и добро, что есть препятствие и т.д. Да, они могут перемолоть за пару дней шахматные варианты, и начать легко обыгрывать чемпионов мира-людей. И что с того? Они не обладают сознанием на биологической основе, а других основ пока не известно. Они не могут эволюционировать в общем плане, а только в специфическом.
    ivankolupayev
    2 недели назад
    -
    0
    +
    И эти люди критикуют Рогозина )) Да ведь точно та же психология привела к провалу российской космической программы. Не будет, не полетит, не сможет, неизвестно и не получится. Но у Маска таки получилось и теперь приходится кусать локти и думать что с этим делать. Так причем здесь калькуляторы? Или нынешнее состояние вычислительной техники? Речь в статье о возможности управления машиной, способной ставить цели и осознавать себя. Когда такая машина будет создана, будет немного поздно думать о контроле над ней. Увы, человечество и раньше наступало на эти грабли - сперва создавало угрозу своему существованию, а потом ломало голову что с этим делать.
    +
      ещё комментарии
      Семен Курсаков
      2 недели назад
      -
      0
      +
      Машина не может осознавать себя, для этого нужны нейроны, и это изменить нельзя. Может быть пока. Сознание возникает только в случае, когда таламус связан с префронтальной корой. Когда таламус не связан с префронтальной корой, то человек - либо спит, либо под наркозом. Исходя из бреда этой статьи, сверхразум тоже построен на биологической основе... Ох, долго смиялсо...
        ivankolupayev
        2 недели назад
        -
        0
        +
        Честно так и не нашел где в статье сказано что "сверхразум построен на биологической основе" Наоборот все время речь идет о программах и приборах.
          Семен Курсаков
          2 недели назад
          -
          0
          +
          Все одно - полный бред. "Управление сверхразумом невозможно". Даже если это так - и что ? Много чем, даже давно известным, управлять нельзя сейчас, и никогда не получится управлять. Цунами, ураганами. Погодой. Движением астероидов, метеоритов, комет. Накоплением углерода в атмосфере. Химическими процессам в вашем теле, проходящими прямо сейчас. И что? Представьте такой доклад - ой, все, мы помираем, не можем остановить метаболизм в своем теле. Катастрофа, блин. Если же подразумевается некий "сверхразум" на кремниевой основе - я вот тоже не пойму, в чем страх. Кремниевые устройства раскрошить - пара пустяков. Направьте на них ульрафиолетовую лампу. Создайте сильное эл-магн. поле или сильный импульс. Отключите свет, в конце-то концов. Разум на биологич основе переживет отключение света даже на долгие годы, "сверхразум" - нет. Если кто-то боится роботов, просто не открывайте им дверь. Они до сих пор не могут ручку дверную повернуть, и нажать на полотно двери. Если под "сверхразумом" подразумеваются алгоритмы, которые быстро что-то делают, гораздо быстрее человека - ну так это что, в первый раз что ли. Станок ткацкий, созданный пару сотен лет назад, например, в сотни раз производительнее ручного ткача. И что? И станок, и "сверхразум", не осознают себя и свои действия. Повторяю еще раз, для сознания нужны нейроны. Наличие большого кол-ва нейронов - крупнейшее преимущество сапиенса, и позволившее ему так подняться. Плюс другие факторы - нейропластичность и т.д. Станком тоже не получается управлять в режиме реального времени, прямо сейчас, секунда в секунду. Только когда он пару штук полотна спрядет с ошибками, это увидят, и его застопорят. Так и "сверхразум" остановят. Если понадобится. "Ветер, вырывающий с корнем деревья, не осознает того, что он делает" (с) строфа Букко из письма Такуана "О дзене и искусстве фехтования". Обратите внимание, как тонко подмечено различие природы и человека.
            ivankolupayev
            2 недели назад
            -
            0
            +
            Ой я вас умоляю. Вам до сих пор представляется тупенький терминатор из будущего который придет забрать ваши деньги, косуху и мотоцикл. Просто посмотрите Газонокосильщика, картинка лучше тысячи слов. Деньги кстати у вас может забрать уже сейчас даже простенький алгоритм, мотоцикл и куртка ему в сети без надобности. А вот чтобы остановить сверхразум распределенный в Сети придется уничтожить большую часть интернета и прочую инфраструктуру по всему миру. Что не так-то просто ведь интернет проектировался так чтобы пережить даже ядерную войну. Конечно можно откатиться в доэлектрическую эру, перерезать все провода в округе и бегать по периметру с дробовиками. Пока ИИ не отправит к вам парочку дронов с хеллфайрами. Или чего посерьезней если ему надоест с вами возиться. Что до осознания так это все чушь. Человек тоже ничего не осознает. Во всяком случае еще никто не смог объяснить как это работает. На уровне клеток мозг такой же механизм как и нейросеть. Сильно подозреваю что тут дело лишь в сложности.
Подтвердить?
Лучшие материалы
Предстоящие мероприятия
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: