Представлен способ обезвреживания искусственного интеллекта
04.06.2016
4 минуты
Редакция
3
121

Представлен способ обезвреживания искусственного интеллекта

Специалисты представили новый способ, как можно обезвредить искусственный интеллект. Он сможет помочь в тех случаях, если ИИ выйдет из-под контроля.

ai

С деталями можно ознакомиться в издании Business Insider, которое ссылается на Институт изучения машинного интеллекта. Сейчас, когда уровень развития искусственного интеллекта достаточно высок, многие всерьез опасаются, что ИИ выйдет из-под контроля. Не дать катастрофе случиться поможет новый метод, представленный специалистами Оксфордского университета, а также их коллегами из лаборатории DeepMind, которая принадлежит корпорации Google.

 

Отметим, что именно DeepMind создала компьютерную программу AlphaGo, которая победила в древнекитайскую игру го чемпиона Европы по этой дисциплине Фаня Хуэя. Причем сделала это с разгромным счетом 5:0. В этом событии нет, на первый взгляд, ничего странного: ранее компьютер уже побеждал человека в шашки и шахматы. Но дело в том, что в го почти никак нельзя перебрать все возможные комбинации. Поэтому ИИ сложно предсказать дальнейший вариант развития событий.

 

Это и многие другие достижения в вопросе развития ИИ породили вполне понятные опасения. И сейчас эксперты хотят обезопасить мир от «злобных роботов». По словам специалистов, речь идет о некой «большой красной кнопке». Работа, посвященная ей, представляет собой математический анализ, который описывает методы построения защиты. «Если такой агент (имеется в виду ИИ) работает в режиме реального времени под наблюдением человека, то иногда может возникнуть ситуация, при которой оператор будет вынужден нажать на большую красную кнопку, чтобы остановить агента от выполнения действий, опасных для самого агента или его окружения», – говорится в исследовании.

 

Считается, что на каком-то этапе искусственный интеллект сможет найти лазейку, которая позволит ему игнорировать обычную стоп-команду человека. Целью новой исследовательской работы стал поиск способов предотвратить нечто подобное.

 

Об угрозе со стороны ИИ мы слышим в последнее время все чаще. Об этом, в частности, предупреждают такие видные деятели нашего времени, как Стивен Хокинг, Билл Гейтс и Илон Маск. Все они делают акцент на невероятно быстрых темпах развития искусственного интеллекта.

 

Напомним, ранее научно-популярный портал Naked Science попытался разобраться в вопросах, связанных с возможными угрозами со стороны ИИ. Были рассмотрены разные прогнозы от различных специалистов: как условно «позитивные», так и условно «негативные». 

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Позавчера, 15:32
4 минуты
Полина Гершберг

Периваскулярная жировая ткань вокруг сосудов не только накапливает липиды, но и непосредственно влияет на релаксацию сосудистых тканей.

Позавчера, 15:32
17 минут
Александр Березин

На борту круизного лайнера Diamond Princess в феврале 2020 года случился настоящий разгул эпидемии Covid-19. Судно поместили на карантин, во время которого по идее пассажиры должны были отсиживаться по каютам. Несмотря на это, каждый шестой там заболел. За пределами Китая нигде больше нет такого числа заразившихся — ни в одной стране. Стали говорить, что этот корабль — прообраз будущей эпидемии коронавируса по всей планете. Мол, раз тут карантин не помог, значит, не сдержит болезнь и в мировом масштабе. На самом деле, задолго до коронавируса путешествия на круизных лайнерах стали называть «плаванием к болезни». Предположительно роскошное времяпрепровождение часто оборачивалось инфекцией и до коронавируса. Не приходится удивляться, что новому вирусу пришлись по вкусу именно круизные лайнеры. Почему так — рассказываем ниже.

Позавчера, 12:20
4 минуты
НИТУ «МИСиС»

Коллектив ученых из НИТУ «МИСиС» провел комплексную оценку влияния нано- и микродобавок алюминия, бора, цинка, никеля, меди и молибдена на скорость горения твердого топлива, содержащего алюминиевые порошки. Эксперимент показал, что наиболее эффективными добавками являются наночастицы меди. Добавление ее в топливо позволит увеличить скорость ракет в пять раз.

17 февраля
5 минут
Мария Азарова

По мнению исследователей, мидии погибли вследствие «теплового стресса», вызванного повышением температуры океана.

18 февраля
8 минут
Полина Гершберг

Один из наиболее полезных режимов питания оказался хорош с неожиданной стороны: выяснилось, что он способствует развитию кишечных бактерий, связанных с улучшением качества жизни пожилых людей.

19 февраля
4 минуты
Сергей Васильев

В галактике Маркарян 231, расположенной в полумиллиарде световых лет от нас, нашли облака молекулярного кислорода — впервые где-либо вне Млечного Пути.

11 февраля
4 минуты
Сергей Васильев

Экспериментальные данные указали на виды физических нагрузок, которые стимулируют нейропластичность мозга.

28 января
25 минут
Александр Березин

Недавняя научная работа предрекла серьезную эпидемию коронавируса 2019-nCoV. Согласно ей, 95% зараженных еще не зарегистрированы властями, а значит, через пару недель в одной Ухани будут сотни тысяч заболевших. При наблюдаемой смертности от вируса в 2,36% — это многие тысячи погибших. На самом деле, новая работа скорее «ловит хайп» или, если угодно, пытается держать мир настороже, чем описывает реальную эпидемию. Последние данные по заразности коронавируса показывают: он действительно неблестяще передается от человека к человеку. Для эпидемии в Китае этого достаточно, но большое число жертв за пределами этой страны маловероятно. Выясняем почему.

28 января
3 минуты
Полина Гершберг

Ученые создали информационную панель, показывающую распространение китайского коронавируса по миру в режиме реального времени. Данные вносятся из подтвержденных источников — это поможет бороться с дезинформацией.

[miniorange_social_login]

Комментарии

3 Комментария

loyalnaya
06.06.2016
-
0
+
этот самый способ просто представили в уме. хитрый заголовок с двойным смыслом
netbook
06.06.2016
-
0
+
"Специалисты представили новый способ" ... "Целью новой исследовательской работы стал поиск способов предотвратить нечто подобное" ... и всё, где способ-то?
Yazdes Prostotak
04.06.2016
-
0
+
Что ты видишь, когда закрываешь глаза?
Подтвердить?
Лучшие материалы
Предстоящие мероприятия
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: