Представлен способ обезвреживания искусственного интеллекта — Naked Science
4 минуты
Редакция
3

Представлен способ обезвреживания искусственного интеллекта

Специалисты представили новый способ, как можно обезвредить искусственный интеллект. Он сможет помочь в тех случаях, если ИИ выйдет из-под контроля.

ai
©Wikipedia

С деталями можно ознакомиться в издании Business Insider, которое ссылается на Институт изучения машинного интеллекта. Сейчас, когда уровень развития искусственного интеллекта достаточно высок, многие всерьез опасаются, что ИИ выйдет из-под контроля. Не дать катастрофе случиться поможет новый метод, представленный специалистами Оксфордского университета, а также их коллегами из лаборатории DeepMind, которая принадлежит корпорации Google.

 

Отметим, что именно DeepMind создала компьютерную программу AlphaGo, которая победила в древнекитайскую игру го чемпиона Европы по этой дисциплине Фаня Хуэя. Причем сделала это с разгромным счетом 5:0. В этом событии нет, на первый взгляд, ничего странного: ранее компьютер уже побеждал человека в шашки и шахматы. Но дело в том, что в го почти никак нельзя перебрать все возможные комбинации. Поэтому ИИ сложно предсказать дальнейший вариант развития событий.

 

Это и многие другие достижения в вопросе развития ИИ породили вполне понятные опасения. И сейчас эксперты хотят обезопасить мир от «злобных роботов». По словам специалистов, речь идет о некой «большой красной кнопке». Работа, посвященная ей, представляет собой математический анализ, который описывает методы построения защиты. «Если такой агент (имеется в виду ИИ) работает в режиме реального времени под наблюдением человека, то иногда может возникнуть ситуация, при которой оператор будет вынужден нажать на большую красную кнопку, чтобы остановить агента от выполнения действий, опасных для самого агента или его окружения», – говорится в исследовании.

 

Считается, что на каком-то этапе искусственный интеллект сможет найти лазейку, которая позволит ему игнорировать обычную стоп-команду человека. Целью новой исследовательской работы стал поиск способов предотвратить нечто подобное.

 

Об угрозе со стороны ИИ мы слышим в последнее время все чаще. Об этом, в частности, предупреждают такие видные деятели нашего времени, как Стивен Хокинг, Билл Гейтс и Илон Маск. Все они делают акцент на невероятно быстрых темпах развития искусственного интеллекта.

 

Напомним, ранее научно-популярный портал Naked Science попытался разобраться в вопросах, связанных с возможными угрозами со стороны ИИ. Были рассмотрены разные прогнозы от различных специалистов: как условно «позитивные», так и условно «негативные». 

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
5 часов назад
6 минут
Василий Парфенов

Вопрос разработки способов запасания электричества в XXI веке встал невероятно остро — ученые со всего мира ломают голову над тем, как сделать батареи более емкими. Армейская исследовательская лаборатория США добилась успехов в создании тончайших антисегнетоэлектрических пленок из гафната свинца. Это сложное в получении соединение обладает большим потенциалом к применению в аккумуляторах и электрических вентилях.

Вчера, 12:00
2 минуты
Илья Ведмеденко

Как следует из обнародованных материалов, дальность действия перспективной американской системы гиперзвукового оружия Long Range Hypersonic Weapon превышает 2775 километров.

Вчера, 18:35
4 минуты
Ольга Иванова

NASA смоделировало ситуацию, при которой нашей планете угрожает крупное небесное тело, и выяснило, как много времени понадобится землянам, чтобы предотвратить катастрофу. Спойлер: мы все умрем.

11 мая
11 минут
Мария Азарова

Американские ученые показали, что РНК коронавируса SARS-CoV-2 проходит через обратную транскрипцию, встраивается в геном инфицированной клетки и экспрессируется в виде «химерных» транскриптов, сливающихся с вирусными с клеточными последовательностями.

8 мая
37 минут
Александр Березин

Филипп Мандей основал целое направление исследований: он первым установил, что закисление океанов — последствие глобального потепления — угрожает обонянию и умению ориентироваться у морских рыб. Само собой, это создает угрозу их вымирания. Долго оставалось загадкой только одно: как существующие виды рыб перенесли серьезное закисление океана при прошлых изменениях климата. Теперь все проясняется: похоже, Мандей обнаружил эффект, которого никогда не было. Интересно, что вместе с ним его наблюдали еще 179 ученых — и теперь все они оказались в центре чудовищного скандала. Попробуем разобраться в деталях.

12 мая
7 минут
Мария Азарова

Исследователи впервые показали присутствие коронавируса в ткани полового члена спустя как минимум полгода с момента заражения. Судя по всему, распространенная у пациентов с Covid-19 дисфункция эндотелиальных клеток может приводить и к развитию импотенции.

16 апреля
4 минуты
Илья Ведмеденко

Исследователи установили, что обнаруженный в Баренцевом море объект — погибшая советская субмарина типа «Крейсерская». Это одна из самых больших подлодок СССР периода Второй мировой.

23 апреля
11 минут
Василий Парфенов

Действующий глава NASA в рамках общения с прессой ответил на ряд вопросов, касающихся недавних заявлений российских политиков и главы «Роскосмоса» о скором отказе от собственного сегмента МКС. Администратор заверил всех, что агентство находится в хороших отношениях с Россией, а также поделился информацией о согласовании обмена местами для астронавтов и космонавтов в пилотируемых миссиях двух стран.

25 апреля
17 минут
Александр Березин

На этой неделе СМИ выдали новость, от которой можно впасть в шок: «Ранее из России уезжало около 14 тысяч исследователей [в год], теперь — 70 тысяч». Мы внимательно разобрались в ситуации и вынуждены отметить, что ничего подобного не было и нет. В реальности речь вовсе не об ученых и даже не о высококвалифицированных специалистах. Проблемы с учеными в России есть. Но в этом случае речь идет не о них, а о том, что отдельные бывшие комсомольские вожаки, удачно устроившиеся в РАН, перепутали утечку мозгов из России с отъездом из нее гастарбайтеров. Разбираемся, как это у них получилось.

[miniorange_social_login]

Комментарии

3 Комментария

06.06.2016
-
0
+
этот самый способ просто представили в уме. хитрый заголовок с двойным смыслом
06.06.2016
-
0
+
"Специалисты представили новый способ" ... "Целью новой исследовательской работы стал поиск способов предотвратить нечто подобное" ... и всё, где способ-то?
04.06.2016
-
0
+
Что ты видишь, когда закрываешь глаза?
Подтвердить?
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: