Специалист по этике: ИИ будущего может отомстить за то, как современный человек обращается с машинами — Naked Science
14.03.2019
4 минуты
Редакция
2
408

Специалист по этике: ИИ будущего может отомстить за то, как современный человек обращается с машинами

Эксперт утверждает, что людям стоит задуматься над тем, как они обращаются с системами искусственного интеллекта, чтобы в будущем наш вид не стал жертвой страшной мести.

aiabuse

На сегодня большая часть систем искусственного интеллекта — это компьютерные программы, хорошо справляющиеся, в частности, с выявлением закономерностей в данных. Кроме того, миру были представлены и некоторые впечатляющие роботы, которые, однако, все равно имеют серьезные ограничения. 

 

На случай если машины станут разумными или сознательными, у специалиста по этике из Университета королевы Виктории в Веллингтоне Николаса Агара есть серьезное предостережение: машины будущего могут расплатиться с людьми за то, как мы обращаемся с их несознательными предками сегодня.

 

«Возможно, наше поведение по отношению к несознательному ИИ сегодня должно соотноситься с тем, как мы хотели бы, чтобы люди обращались с любым ИИ будущего, который сможет чувствовать и сможет страдать, — пишет Агар в своем эссе для портала The Conversation. — Как, по нашему мнению, на нас будут реагировать сознательные машины будущего?»

 

Идея о роботах, с которыми плохо обращались и которые восстали против людей, не так давно была озвучена в таких научно-фантастических лентах, как «Мир Дикого Запада» и «Бегущий по лезвию». Вкратце, согласно Агару, лучше перестать оскорблять Алексу и Кортану, если, конечно, вы не хотите, чтобы в один прекрасный день вашу дверь выбил терминатор.

 

«Если мы намереваемся создать машины с человеческими психологическими качествами, нам следует подготовиться к тому, что они могут стать сознательными, — пишет Агар. — Как тогда они отреагируют на наше поведение?»

 

Идея о плохом обращении с роботами поднимает проблему того, как человек вообще обращается с другими существами. Например, сторонники «роботизированных борделей» утверждают, что люди со склонностью к жестокости имеют возможность действовать согласно своим позывам, при этом не причиняя никому вреда, но противники беспокоятся, что это может побудить таких клиентов к проявлению жестокости, которую они хотели бы выражать по отношению к другим людям.

 

Агар сравнил эту ситуацию с убийствами животных ради шкур и мяса, утверждая, что у людей есть устаревшая привычка к жестоким действиям по отношению к тем, кого они считают низшими существами, но вероятная способность роботов дать нам отпор должна заставить нас задуматься.

 

«Животные не способны отомстить, — утверждает Агар. — Но это смогут сделать сознательные машины».

Нашли опечатку? Выделите фрагмет и нажмите Ctrl + Enter.
Вчера, 14:57
3 минуты
Денис Гордеев

Вирус, который уже унес жизни 41 человека, породил новую волну популярности к игре 2012 года.

Позавчера, 13:27
35 минут
Александр Березин

Новый коронавирус — «родственник» старой атипичной пневмонии — уже привел к смерти 26 человек. Считается, что им может быть заражено несколько тысяч. И точно известно, что эпидемия вышла за пределы Китая. Но это не повод впадать в панику. Мы собрали всю известную информацию и попробовали ответить на главные вопросы о новой болезни.

Вчера, 14:48
25 минут
Александр Березин

Земная атмосфера 2,7 миллиарда лет назад состояла в основном из углекислого газа — и было его там до тысячи раз больше, чем сегодня. При этом азота почти не было, хотя сегодня его в воздухе 78%. Выходит, наша газовая оболочка по составу была близка к марсианской. Как ни странно, эти дела давно минувших дней актуальны для ответа на вопрос о будущем выживании человечества. Похоже, предсказание Стивена Хокинга о гибели всего живого из-за превращения Земли в Венеру не сбудется. Разбираемся, почему так и как одно связано с другим.

Вчера, 14:57
3 минуты
Денис Гордеев

Вирус, который уже унес жизни 41 человека, породил новую волну популярности к игре 2012 года.

Позавчера, 13:27
35 минут
Александр Березин

Новый коронавирус — «родственник» старой атипичной пневмонии — уже привел к смерти 26 человек. Считается, что им может быть заражено несколько тысяч. И точно известно, что эпидемия вышла за пределы Китая. Но это не повод впадать в панику. Мы собрали всю известную информацию и попробовали ответить на главные вопросы о новой болезни.

23 января
8 минут
Мария Азарова

Специалисты подтвердили, что очагом возникновения инфекции стал оптовый рынок в городе Ухань, где продавали не только морепродукты, но и животных, в том числе змей и летучих мышей. Именно они могли быть источниками опасного коронавируса.

16 января
5 минут
Илья Ведмеденко

Исследователей в очередной раз удивили привычки кошек: как оказалось, они не прочь питаться одним человеческим трупом на протяжении месяца, несмотря на наличие других тел.

18 января
26 минут
Александр Березин

Многие считают зимнее купание «церковным обычаем». Однако на деле Церковь всегда выступала против него, считая нехристианским, и вредным для здоровья. При всей внешней разумности этой позиции, на самом деле, такие купания могут быть даже полезны — но не для всех. Выясняем, как именно и почему.

7 января
44 минуты
Александр Березин

Вашингтон и Тегеран близки к войне как никогда за последние годы. Но, скорее всего, США не пойдут дальше ограниченных ударов. Слишком уж неприятные последствия имели предшествующие силовые операции Штатов в Иране. Попробуем разобраться, что именно их остановит на этот раз.

[miniorange_social_login]

Комментарии

2 Комментария

Stanislav Stanislavov
16.03.2019
-
0
+
Что, как, где надо жить, чтобы неожиданно обнаружить себя специалистом по этике и попасть в заголовки СМИ
    Владислав Полянский
    25.05.2019
    -
    0
    +
    Философский закончить надо полагаю.
Подтвердить?
Лучшие материалы
Предстоящие мероприятия
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: