• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
14.03.2019
Редакция Naked Science
2
10 580

Специалист по этике: ИИ будущего может отомстить за то, как современный человек обращается с машинами

Эксперт утверждает, что людям стоит задуматься над тем, как они обращаются с системами искусственного интеллекта, чтобы в будущем наш вид не стал жертвой страшной мести.

aiabuse
©Wikipedia

На сегодня большая часть систем искусственного интеллекта — это компьютерные программы, хорошо справляющиеся, в частности, с выявлением закономерностей в данных. Кроме того, миру были представлены и некоторые впечатляющие роботы, которые, однако, все равно имеют серьезные ограничения. 

 

На случай если машины станут разумными или сознательными, у специалиста по этике из Университета королевы Виктории в Веллингтоне Николаса Агара есть серьезное предостережение: машины будущего могут расплатиться с людьми за то, как мы обращаемся с их несознательными предками сегодня.

 

«Возможно, наше поведение по отношению к несознательному ИИ сегодня должно соотноситься с тем, как мы хотели бы, чтобы люди обращались с любым ИИ будущего, который сможет чувствовать и сможет страдать, — пишет Агар в своем эссе для портала The Conversation. — Как, по нашему мнению, на нас будут реагировать сознательные машины будущего?»

 

Идея о роботах, с которыми плохо обращались и которые восстали против людей, не так давно была озвучена в таких научно-фантастических лентах, как «Мир Дикого Запада» и «Бегущий по лезвию». Вкратце, согласно Агару, лучше перестать оскорблять Алексу и Кортану, если, конечно, вы не хотите, чтобы в один прекрасный день вашу дверь выбил терминатор.

 

«Если мы намереваемся создать машины с человеческими психологическими качествами, нам следует подготовиться к тому, что они могут стать сознательными, — пишет Агар. — Как тогда они отреагируют на наше поведение?»

 

Идея о плохом обращении с роботами поднимает проблему того, как человек вообще обращается с другими существами. Например, сторонники «роботизированных борделей» утверждают, что люди со склонностью к жестокости имеют возможность действовать согласно своим позывам, при этом не причиняя никому вреда, но противники беспокоятся, что это может побудить таких клиентов к проявлению жестокости, которую они хотели бы выражать по отношению к другим людям.

 

Агар сравнил эту ситуацию с убийствами животных ради шкур и мяса, утверждая, что у людей есть устаревшая привычка к жестоким действиям по отношению к тем, кого они считают низшими существами, но вероятная способность роботов дать нам отпор должна заставить нас задуматься.

 

«Животные не способны отомстить, — утверждает Агар. — Но это смогут сделать сознательные машины».

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Предстоящие мероприятия
Вчера, 14:22
Ольга Иванова

Ученые из США пришли к выводу, что человек с большей вероятностью примет псевдонаучные или ложные взгляды, если считает, что их разделяет большинство, чем истинные и научные.

Вчера, 16:09
ТГМУ

Кукольный мультфильм «Чертенок №13» в этом году отмечает свое сорокалетие. За приключениями маленького чертенка когда-то с интересом наблюдали и дети, и взрослые, он выходил в сборниках лучших советских мультфильмов. Не забыли о нем и сегодня. В Тюменском государственном медицинском университете фильм получил вторую жизнь и теперь служит обучающим материалом для иностранных студентов.

2 часа назад
Александр Березин

Флот продемонстрировал возможность наносить неперехватываемые ракетные удары на расстоянии, делающим его опасным для авианосных групп противника.

25 мая
Александр Березин

Скорее всего, это первое полноценное использование принципиально нового истребителя по его прямому назначению.

23 мая
РНФ

Группа ученых из России и Германии математически описала ситуацию, когда происходит самоостановка света — явление, при котором скорость световых импульсов падает в миллионы раз, вплоть до нуля. Оказалось, что в определенных условиях излучение в резонансно поглощающей среде создает для себя «потенциальную яму», из которой затем не может выйти. Это происходит за счет обволакивания материей безмассовых фотонов, и в результате они могут остановиться.

24 мая
Александр Березин

Хотя исследователи полагают, что им был Homo sapiens, новые данные вполне совместимы и с другими видами людей.

25 мая
Александр Березин

Скорее всего, это первое полноценное использование принципиально нового истребителя по его прямому назначению.

28 апреля
Мария Азарова

Авторы нового исследования составили таблицу ожидаемой продолжительностью жизни для собак 18 чистокровных пород и метисов. Кроме того, они узнали, кто живет дольше — суки или кобели, кастрированные или нет.

6 мая
Кирилл Отавин

Приходилось ли вам готовиться к тяжелым экзаменам в школе? А в институте? Или корпеть над срочным рабочим отчетом, который нужно сдать уже «‎вчера»? Конечно же, приходилось. В такие моменты хочется немного «завести» мозги, заставить их работать на всю катушку. И сосед или знакомый говорят вам: «‎А про ноотропы приходилось слышать? А вот фенотропил принимали? Это может помочь». Naked Science решил разобраться, что это такое, как оно помогает и помогает ли вообще.

[miniorange_social_login]

Комментарии

2 Комментария

-
0
+
Что, как, где надо жить, чтобы неожиданно обнаружить себя специалистом по этике и попасть в заголовки СМИ
Подтвердить?
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: