• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
07.06.2017
Редакция Naked Science
1
208

Искусственному интеллекту предложили привить сомнения

Ученые из Калифорнийского университета в Беркли, Международного института компьютерных наук и компании OpenAI показали, что продуктивность искусственного интеллекта может возрасти при наличии самокритики.

33344680595_73a2678f35_k
©Wikipedia / Автор: Ольга Кузьмина

Некоторые существующие компьютерные алгоритмы превосходят человека в решении определенных задач. Например, ранее они обыграли профессиональных игроков в покер и го. По мнению ряда специалистов в области компьютерных наук, к 2049 году подобные системы могут освоить создание бестселлеров, а к 2053 году — самостоятельно проводить хирургические операции. При этом развитие технологий машинного обучения вызывает интерес к их безопасности. Теоретически однажды искусственный интеллект может отказаться от выполнения команд из-за расхождения целей его и оператора. Поэтому уже сейчас ученые стремятся оценить степень свобод, которые уместно предоставить этим системам.

 

Чтобы выяснить это, авторы новой работы построили математическую модель взаимодействия робота и человека. Она представлена в виде формальной «игры с выключателем» (The Off-Switch Game). Принцип заключается в следующем. Роботу, оснащенному выключателем, дается некоторое задание, выполнение которого человек может прервать в любой момент нажатием кнопки. В случае, если решение человека интерпретируется машиной как низкоэффективное, действия первого блокируются и активность продолжается. Причем целью системы остается извлечение максимальной выгоды в пользу человека. Расчеты показали, что поведение робота непосредственно зависело от оценки рациональности оператора.

 

Согласно модели, при условии, что решение человека оценивается роботом как неоптимальное, а продолжение активности полностью соответствует интересам первого, машина не допустит выключения. С другой стороны, если система считает все действия оператора верными, исполнению будет подлежать любая команда, даже в случае правильного способа решения задачи. Таким образом, ученые предположили, что наилучшей стратегией для робота будет компромисс: попытка пользователя вмешаться в выполнение алгоритма должна приниматься во внимание и приводить к обратной связи. Дальнейшие действия машины при этом будут зависеть от последующей, ответной реакции оператора.

 

Как и дилемма заключенного, предложенная модель является абстрактной и предусматривает возможность внесения произвольных переменных, влияющих на результат. Например, при перевозке маленького ребенка оптимальной стратегией для беспилотного автомобиля, в отсутствие водителя, будет игнорирование действий пассажира. Авторы также отмечают, что, несмотря на отсутствие конкретных решений, полученные данные свидетельствует о недопустимости реализации в искусственном интеллекте крайних типов реагирования. В будущем они намерены оценить вероятность того или иного поведения машины в зависимости от ее осведомленности о пользе собственных действий.

 

Статья опубликована на сервере препринтов arXiv.org.

 

Ранее ученые выяснили, когда автоматизация лишит человечество привычной работы.

 

Об возможных последствиях появления искусственного интеллекта читайте в нашем материале.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
13 июня
Дарья Г.

В центре далекой галактики OJ 287 находятся две черные дыры, одна из которых в сотню раз больше другой. В 2021 году астрономы подтвердили существование пары по изменению яркости объекта. Теперь же ученым удалось доказать, что источником той необычной вспышки была именно малая черная дыра.

Позавчера, 12:22
Алиса Гаджиева

Авторы нового междисциплинарного исследования выяснили, как распределялись ресурсы в сообществе земледельцев и скотоводов одной из альпийских долин семь тысяч лет назад.

13 июня
Александр Березин

Нынешняя версия крупнейшего носителя SpaceX вдвое мощнее «Сатурна-5», самой мощной ракеты прошлого. Однако документ Федерального управления гражданской авиации США показал, что Илон Маск планирует серьезно нарастить разрыв. Попутно у его ракеты значительно увеличится количество двигателей в обеих ступенях, в итоге она станет выше высочайшей пирамиды на земле.

11 июня
Александр Березин

Авторы серии одновременно вышедших научных работ описали влияние космического полета первого в истории частного экипажа — Inspiration4, отправленного в космос SpaceX — и пришли к выводу, что, несмотря на отсутствие длительной и систематической предполетной подготовки, организмы участников полета перенесли его нормально. Это имеет серьезные последствия для будущего космических полетов, в котором большинство всех экипажей со значительной вероятностью будут частными.

11 июня
Игорь Байдов

Инфракрасный космический телескоп NASA предоставил данные, которые указывают, что 20 лет назад в соседней молодой планетной системе Бета Живописца произошло масштабное столкновение астероидов, породившее облако пыли в 100 тысяч раз больше, чем астероид, погубивший динозавров. Исследование таких событий поможет астрономам лучше понять процессы, которые способствуют развитию планетных систем, подобных нашей, и позволит больше узнать о ранних стадиях формирования планет.

10 июня
Игорь Байдов

Группа физиков из Италии представила новую концепцию поиска признаков распада протона. Исследователи предложили пробурить на Луне скважину глубиной пять километров и безопасно извлечь оттуда образцы породы, сохраняющие следы этого события. Если идею ученых притворят в жизнь и миссия окажется успешной, открытие поможет объединить противоречащие физические теории.

24 мая
Игорь Байдов

С помощью космических и наземных телескопов международная команда астрономов открыла похожий на нашу планету мир в так называемой зоне обитаемости, позволяющей воде существовать на поверхности тела в жидком состоянии. По космическим меркам экзопланета находится достаточно близко к Земле и, вероятно, представляет собой скалистый мир с благоприятным для жизни климатом. Подобные миры астрономы открывают крайне редко.

27 мая
Андрей

Европейские гляциологи, используя первые снимки Восточной Антарктиды 1937 года, а также фотографии середины XX века и современные спутниковые данные, отследили, как менялись ледники в этом регионе на протяжении 85 лет.

10 июня
Александр Березин

Исследователи из США выяснили, что примерно два миллиона лет назад Солнечная система захватила хвост облака холодного межзвездного газа. В результате гелиосфера сильно сжалась, дав галактическим лучам свободно облучать все планеты системы. Это должно было вызвать и серьезные проблемы с климатом.

[miniorange_social_login]

Комментарии

1 Комментарий

-
0
+
теперь и искусственный интеллект будет тоже сомневаться, критиковать себя, типа, ты знаешь, а я бы ещё туда добавил или типа, нет это не то что я хотел
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: