Представлен способ обезвреживания искусственного интеллекта — Naked Science
04.06.2016
Редакция Naked Science
3

Представлен способ обезвреживания искусственного интеллекта

Специалисты представили новый способ, как можно обезвредить искусственный интеллект. Он сможет помочь в тех случаях, если ИИ выйдет из-под контроля.

ai
©Wikipedia

С деталями можно ознакомиться в издании Business Insider, которое ссылается на Институт изучения машинного интеллекта. Сейчас, когда уровень развития искусственного интеллекта достаточно высок, многие всерьез опасаются, что ИИ выйдет из-под контроля. Не дать катастрофе случиться поможет новый метод, представленный специалистами Оксфордского университета, а также их коллегами из лаборатории DeepMind, которая принадлежит корпорации Google.

 

Отметим, что именно DeepMind создала компьютерную программу AlphaGo, которая победила в древнекитайскую игру го чемпиона Европы по этой дисциплине Фаня Хуэя. Причем сделала это с разгромным счетом 5:0. В этом событии нет, на первый взгляд, ничего странного: ранее компьютер уже побеждал человека в шашки и шахматы. Но дело в том, что в го почти никак нельзя перебрать все возможные комбинации. Поэтому ИИ сложно предсказать дальнейший вариант развития событий.

 

Это и многие другие достижения в вопросе развития ИИ породили вполне понятные опасения. И сейчас эксперты хотят обезопасить мир от «злобных роботов». По словам специалистов, речь идет о некой «большой красной кнопке». Работа, посвященная ей, представляет собой математический анализ, который описывает методы построения защиты. «Если такой агент (имеется в виду ИИ) работает в режиме реального времени под наблюдением человека, то иногда может возникнуть ситуация, при которой оператор будет вынужден нажать на большую красную кнопку, чтобы остановить агента от выполнения действий, опасных для самого агента или его окружения», – говорится в исследовании.

 

Считается, что на каком-то этапе искусственный интеллект сможет найти лазейку, которая позволит ему игнорировать обычную стоп-команду человека. Целью новой исследовательской работы стал поиск способов предотвратить нечто подобное.

 

Об угрозе со стороны ИИ мы слышим в последнее время все чаще. Об этом, в частности, предупреждают такие видные деятели нашего времени, как Стивен Хокинг, Билл Гейтс и Илон Маск. Все они делают акцент на невероятно быстрых темпах развития искусственного интеллекта.

 

Напомним, ранее научно-популярный портал Naked Science попытался разобраться в вопросах, связанных с возможными угрозами со стороны ИИ. Были рассмотрены разные прогнозы от различных специалистов: как условно «позитивные», так и условно «негативные». 

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Вчера, 15:26
Александр Березин

Сегодня на Землю вернулся экипаж Inspiration 4. Пресса уже единодушно пишет об этом так: большой и яркий успех амбициозной космической компании. Без единого профессионала-астронавта — и взлетели выше МКС! Все это правда. Но правда и другое: сам Илон Маск и все, кто хорошо представляют себе пилотируемые космические полеты, находились в напряжении все трое суток, пока четверо смелых из Inspiration 4 были в космосе. И можно с уверенностью сказать, что впереди у SpaceX, кажется, еще куда более рискованные полеты. Попробуем разобраться почему.

Позавчера, 12:59
Алиса Гаджиева

Несмотря на то, что в крестовых походах погибли тысячи людей, археологи невероятно редко обнаруживают их массовые захоронения. По одной из версий, убитых, найденных в этот раз, хоронил лично Людовик IX Святой, король Франции, предводитель двух крестовых походов.

Позавчера, 16:28
Илья Ведмеденко

Модернизированный стратегический бомбардировщик Ту-160 снова поднялся в небо. Самолет среди прочего получил обновленную силовую установку.

15 сентября
Ольга Иванова

Американские исследователи выяснили, что в женских тампонах содержатся летучие органические соединения, которые влияют на присутствие этих веществ в моче. Интересно, что в прокладках их содержание значительно ниже.

15 сентября
ПНИПУ

Ученые Пермского Политеха и Хуачжунского университета науки и технологии (КНР) создали уникальную технологию, которая позволит предприятиям производить промышленные изделия без дефектов. Лазерная сварка в вакууме позволит повысить качество ответственных конструкций в аэрокосмической и машиностроительной отраслях. Российские и зарубежные ученые реализовали разработку благодаря уникальному проекту международных исследовательских групп (МИГов), который действует в Пермском крае с 2011 года и не имеет аналогов в России.

Вчера, 15:26
Александр Березин

Сегодня на Землю вернулся экипаж Inspiration 4. Пресса уже единодушно пишет об этом так: большой и яркий успех амбициозной космической компании. Без единого профессионала-астронавта — и взлетели выше МКС! Все это правда. Но правда и другое: сам Илон Маск и все, кто хорошо представляют себе пилотируемые космические полеты, находились в напряжении все трое суток, пока четверо смелых из Inspiration 4 были в космосе. И можно с уверенностью сказать, что впереди у SpaceX, кажется, еще куда более рискованные полеты. Попробуем разобраться почему.

3 сентября
Алиса Гаджиева

Два бронзовых тарана и свинцовые пули обнаружили на месте битвы при Эгатских островах, состоявшейся почти 23 века назад.

11 сентября
Алиса Гаджиева

Необычное погребение обнаружили во время работ по устройству пруда в гольф-клубе.

9 сентября
Алиса Гаджиева

Необычный артефакт обнаружили в одном из пунктов сбора вторсырья в Красноярском крае.

[miniorange_social_login]

Комментарии

3 Комментария

06.06.2016
-
0
+
этот самый способ просто представили в уме. хитрый заголовок с двойным смыслом
06.06.2016
-
0
+
"Специалисты представили новый способ" ... "Целью новой исследовательской работы стал поиск способов предотвратить нечто подобное" ... и всё, где способ-то?
04.06.2016
-
0
+
Что ты видишь, когда закрываешь глаза?
Подтвердить?
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: