• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
04.06.2016, 14:53
Редакция Naked Science
3
788

Представлен способ обезвреживания искусственного интеллекта

Специалисты представили новый способ, как можно обезвредить искусственный интеллект. Он сможет помочь в тех случаях, если ИИ выйдет из-под контроля.

Представлен способ обезвреживания искусственного интеллекта – иллюстрация к материалу на Naked Science
©Wikipedia / Автор: Владимир Богданов

С деталями можно ознакомиться в издании Business Insider, которое ссылается на Институт изучения машинного интеллекта. Сейчас, когда уровень развития искусственного интеллекта достаточно высок, многие всерьез опасаются, что ИИ выйдет из-под контроля. Не дать катастрофе случиться поможет новый метод, представленный специалистами Оксфордского университета, а также их коллегами из лаборатории DeepMind, которая принадлежит корпорации Google.

 

Отметим, что именно DeepMind создала компьютерную программу AlphaGo, которая победила в древнекитайскую игру го чемпиона Европы по этой дисциплине Фаня Хуэя. Причем сделала это с разгромным счетом 5:0. В этом событии нет, на первый взгляд, ничего странного: ранее компьютер уже побеждал человека в шашки и шахматы. Но дело в том, что в го почти никак нельзя перебрать все возможные комбинации. Поэтому ИИ сложно предсказать дальнейший вариант развития событий.

 

Это и многие другие достижения в вопросе развития ИИ породили вполне понятные опасения. И сейчас эксперты хотят обезопасить мир от «злобных роботов». По словам специалистов, речь идет о некой «большой красной кнопке». Работа, посвященная ей, представляет собой математический анализ, который описывает методы построения защиты. «Если такой агент (имеется в виду ИИ) работает в режиме реального времени под наблюдением человека, то иногда может возникнуть ситуация, при которой оператор будет вынужден нажать на большую красную кнопку, чтобы остановить агента от выполнения действий, опасных для самого агента или его окружения», – говорится в исследовании.

 

Считается, что на каком-то этапе искусственный интеллект сможет найти лазейку, которая позволит ему игнорировать обычную стоп-команду человека. Целью новой исследовательской работы стал поиск способов предотвратить нечто подобное.

 

Об угрозе со стороны ИИ мы слышим в последнее время все чаще. Об этом, в частности, предупреждают такие видные деятели нашего времени, как Стивен Хокинг, Билл Гейтс и Илон Маск. Все они делают акцент на невероятно быстрых темпах развития искусственного интеллекта.

 

Напомним, ранее научно-популярный портал Naked Science попытался разобраться в вопросах, связанных с возможными угрозами со стороны ИИ. Были рассмотрены разные прогнозы от различных специалистов: как условно «позитивные», так и условно «негативные». 

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Предстоящие мероприятия
13 июля, 11:11
Людмила Соколова

Галактики — спутники Млечного Пути преимущественно представляют собой карликовые сфероидальные системы. Астрономам известно о существовании примерно 60 таких объектов, однако результаты нового исследования показали, что вокруг нашей Галактики могут вращаться до 100 «пропавших» спутников.

12 июля, 22:10
Редакция Naked Science

Лето 2025 обещает насыщенную линейку научно-фантастических сериалов на ведущих стриминговых платформах. От адаптаций культовых романов до масштабных космических одиссей — мы отобрали проекты, на которые стоит обратить внимание.

14 июля, 11:29
ПНИПУ

Представьте мир, где извергаются серные вулканы высотой в 60 раз больше Эвереста, под 20-километровым льдом скрываются океаны, мощные гейзеры выбрасывают струи водяного пара в космос, а реки из жидкого метана стекают в углеводородные моря. Так выглядят спутники планет Солнечной системы. Ученый Пермского Политеха Евгений Бурмистров рассказал, почему они считаются самыми перспективными местами для поиска жизни и колонизации.

12 июля, 22:10
Редакция Naked Science

Лето 2025 обещает насыщенную линейку научно-фантастических сериалов на ведущих стриминговых платформах. От адаптаций культовых романов до масштабных космических одиссей — мы отобрали проекты, на которые стоит обратить внимание.

11 июля, 17:47
Денис Яковлев

Международная команда ученых оценила связь между длительностью физической активности, ее интенсивностью, риском смерти от всех причин и вероятностью развития сердечно-сосудистых и онкологических заболеваний.

14 июля, 10:19
Александр Березин

Фраза «понедельник — день тяжелый» несет больше смысла, чем можно подумать: в этот день действительно чаще случаются сердечные приступы и многое другое. Теперь исследователи показали, что такое влияние понедельники сохраняют даже после того, как человек прекратил ходить на работу.

17 июня, 16:49
Адель Романова

Радиотелескопы уловили очень короткий сигнал, и по его характеристикам стало ясно, что он не может быть естественного происхождения. Астрономы пришли к выводу, что источник находился в околоземном пространстве — там, где уже более полувека летает «мертвый» аппарат NASA.

25 июня, 15:19
ФизТех

Группа российских ученых из Института прикладной математики имени М. В. Келдыша РАН и МФТИ провела детальное численное исследование источников шума, генерируемых крылом прототипа сверхзвукового бизнес-джета в режиме посадки. Эта работа, сочетающая передовые методы вычислительной гидродинамики и аэроакустики, впервые позволила с высокой точностью локализовать и охарактеризовать основные зоны шумообразования вблизи полноразмерной геометрии крыла модели прототипа сверхзвукового пассажирского самолета в посадочной конфигурации.

2 июля, 11:17
Юлия Тарасова

Результаты эксперимента в США в будущем могут позволить добиться разрешения на использование отработанной конопли в качестве кормовой добавки в животноводстве.

[miniorange_social_login]

Комментарии

3 Комментария
loyalnaya
06.06.2016
-
0
+
этот самый способ просто представили в уме. хитрый заголовок с двойным смыслом
netbook
06.06.2016
-
0
+
"Специалисты представили новый способ" ... "Целью новой исследовательской работы стал поиск способов предотвратить нечто подобное" ... и всё, где способ-то?
Yazdes Prostotak
04.06.2016
-
0
+
Что ты видишь, когда закрываешь глаза?
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно