• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
04.06.2016, 14:53
Редакция Naked Science
3
785

Представлен способ обезвреживания искусственного интеллекта

Специалисты представили новый способ, как можно обезвредить искусственный интеллект. Он сможет помочь в тех случаях, если ИИ выйдет из-под контроля.

Представлен способ обезвреживания искусственного интеллекта – иллюстрация к материалу на Naked Science
©Wikipedia / Автор: Владимир Богданов

С деталями можно ознакомиться в издании Business Insider, которое ссылается на Институт изучения машинного интеллекта. Сейчас, когда уровень развития искусственного интеллекта достаточно высок, многие всерьез опасаются, что ИИ выйдет из-под контроля. Не дать катастрофе случиться поможет новый метод, представленный специалистами Оксфордского университета, а также их коллегами из лаборатории DeepMind, которая принадлежит корпорации Google.

 

Отметим, что именно DeepMind создала компьютерную программу AlphaGo, которая победила в древнекитайскую игру го чемпиона Европы по этой дисциплине Фаня Хуэя. Причем сделала это с разгромным счетом 5:0. В этом событии нет, на первый взгляд, ничего странного: ранее компьютер уже побеждал человека в шашки и шахматы. Но дело в том, что в го почти никак нельзя перебрать все возможные комбинации. Поэтому ИИ сложно предсказать дальнейший вариант развития событий.

 

Это и многие другие достижения в вопросе развития ИИ породили вполне понятные опасения. И сейчас эксперты хотят обезопасить мир от «злобных роботов». По словам специалистов, речь идет о некой «большой красной кнопке». Работа, посвященная ей, представляет собой математический анализ, который описывает методы построения защиты. «Если такой агент (имеется в виду ИИ) работает в режиме реального времени под наблюдением человека, то иногда может возникнуть ситуация, при которой оператор будет вынужден нажать на большую красную кнопку, чтобы остановить агента от выполнения действий, опасных для самого агента или его окружения», – говорится в исследовании.

 

Считается, что на каком-то этапе искусственный интеллект сможет найти лазейку, которая позволит ему игнорировать обычную стоп-команду человека. Целью новой исследовательской работы стал поиск способов предотвратить нечто подобное.

 

Об угрозе со стороны ИИ мы слышим в последнее время все чаще. Об этом, в частности, предупреждают такие видные деятели нашего времени, как Стивен Хокинг, Билл Гейтс и Илон Маск. Все они делают акцент на невероятно быстрых темпах развития искусственного интеллекта.

 

Напомним, ранее научно-популярный портал Naked Science попытался разобраться в вопросах, связанных с возможными угрозами со стороны ИИ. Были рассмотрены разные прогнозы от различных специалистов: как условно «позитивные», так и условно «негативные». 

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Предстоящие мероприятия
8 июля, 09:23
Полина Меньшова

Принято считать, что люди с развитыми когнитивными способностями отличаются высокими моральными принципами. Ученые из Великобритании решили проверить этот тезис научными методами и пришли к противоположному выводу.

8 июля, 11:31
Редакция Naked Science

Белорусский бренд Hvilina представил коллекцию наручных часов Universum Cosmographia с трёхмерным планетарием и GMT-диском в виде стилизованной звёздной карты IX века. Вдохновением стали старинные астрономические атласы и изобретательность человека в поисках истины. 3D-модель Солнечной системы, декор механизма в планетарном стиле и отсылки к средневековым источникам раскрывают переход от представлений древних астрономов и философов к современным достижениям науки и космонавтики. Новинка создана при участии почётного профессора Университета Сорбонны.

7 июля, 17:34
Юлия Тарасова

Для принятия верных решений необходимо точно оценивать вероятность того или иного исхода в условиях неопределенности. В новом исследовании профессор экономики и поведенческих наук из Университета Бата (Великобритания) Крис Доусон установил, что обладатели развитого интеллекта гораздо меньше, чем индивидуумы с более низким IQ, ошибаются в предвидении будущего. По мнению ученого, именно это позволяет умным людям выбирать правильные решения и добиваться больших успехов в жизни.

2 июля, 11:17
Юлия Тарасова

Результаты эксперимента в США в будущем могут позволить добиться разрешения на использование отработанной конопли в качестве кормовой добавки в животноводстве.

8 июля, 09:23
Полина Меньшова

Принято считать, что люди с развитыми когнитивными способностями отличаются высокими моральными принципами. Ученые из Великобритании решили проверить этот тезис научными методами и пришли к противоположному выводу.

7 июля, 17:34
Юлия Тарасова

Для принятия верных решений необходимо точно оценивать вероятность того или иного исхода в условиях неопределенности. В новом исследовании профессор экономики и поведенческих наук из Университета Бата (Великобритания) Крис Доусон установил, что обладатели развитого интеллекта гораздо меньше, чем индивидуумы с более низким IQ, ошибаются в предвидении будущего. По мнению ученого, именно это позволяет умным людям выбирать правильные решения и добиваться больших успехов в жизни.

17 июня, 16:49
Адель Романова

Радиотелескопы уловили очень короткий сигнал, и по его характеристикам стало ясно, что он не может быть естественного происхождения. Астрономы пришли к выводу, что источник находился в околоземном пространстве — там, где уже более полувека летает «мертвый» аппарат NASA.

25 июня, 15:19
ФизТех

Группа российских ученых из Института прикладной математики имени М. В. Келдыша РАН и МФТИ провела детальное численное исследование источников шума, генерируемых крылом прототипа сверхзвукового бизнес-джета в режиме посадки. Эта работа, сочетающая передовые методы вычислительной гидродинамики и аэроакустики, впервые позволила с высокой точностью локализовать и охарактеризовать основные зоны шумообразования вблизи полноразмерной геометрии крыла модели прототипа сверхзвукового пассажирского самолета в посадочной конфигурации.

2 июля, 11:17
Юлия Тарасова

Результаты эксперимента в США в будущем могут позволить добиться разрешения на использование отработанной конопли в качестве кормовой добавки в животноводстве.

[miniorange_social_login]

Комментарии

3 Комментария
loyalnaya
06.06.2016
-
0
+
этот самый способ просто представили в уме. хитрый заголовок с двойным смыслом
netbook
06.06.2016
-
0
+
"Специалисты представили новый способ" ... "Целью новой исследовательской работы стал поиск способов предотвратить нечто подобное" ... и всё, где способ-то?
Yazdes Prostotak
04.06.2016
-
0
+
Что ты видишь, когда закрываешь глаза?
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно