Специалист по этике: ИИ будущего может отомстить за то, как современный человек обращается с машинами — Naked Science
4 минуты
Редакция
2

Специалист по этике: ИИ будущего может отомстить за то, как современный человек обращается с машинами

Эксперт утверждает, что людям стоит задуматься над тем, как они обращаются с системами искусственного интеллекта, чтобы в будущем наш вид не стал жертвой страшной мести.

aiabuse
©Wikipedia

На сегодня большая часть систем искусственного интеллекта — это компьютерные программы, хорошо справляющиеся, в частности, с выявлением закономерностей в данных. Кроме того, миру были представлены и некоторые впечатляющие роботы, которые, однако, все равно имеют серьезные ограничения. 

 

На случай если машины станут разумными или сознательными, у специалиста по этике из Университета королевы Виктории в Веллингтоне Николаса Агара есть серьезное предостережение: машины будущего могут расплатиться с людьми за то, как мы обращаемся с их несознательными предками сегодня.

 

«Возможно, наше поведение по отношению к несознательному ИИ сегодня должно соотноситься с тем, как мы хотели бы, чтобы люди обращались с любым ИИ будущего, который сможет чувствовать и сможет страдать, — пишет Агар в своем эссе для портала The Conversation. — Как, по нашему мнению, на нас будут реагировать сознательные машины будущего?»

 

Идея о роботах, с которыми плохо обращались и которые восстали против людей, не так давно была озвучена в таких научно-фантастических лентах, как «Мир Дикого Запада» и «Бегущий по лезвию». Вкратце, согласно Агару, лучше перестать оскорблять Алексу и Кортану, если, конечно, вы не хотите, чтобы в один прекрасный день вашу дверь выбил терминатор.

 

«Если мы намереваемся создать машины с человеческими психологическими качествами, нам следует подготовиться к тому, что они могут стать сознательными, — пишет Агар. — Как тогда они отреагируют на наше поведение?»

 

Идея о плохом обращении с роботами поднимает проблему того, как человек вообще обращается с другими существами. Например, сторонники «роботизированных борделей» утверждают, что люди со склонностью к жестокости имеют возможность действовать согласно своим позывам, при этом не причиняя никому вреда, но противники беспокоятся, что это может побудить таких клиентов к проявлению жестокости, которую они хотели бы выражать по отношению к другим людям.

 

Агар сравнил эту ситуацию с убийствами животных ради шкур и мяса, утверждая, что у людей есть устаревшая привычка к жестоким действиям по отношению к тем, кого они считают низшими существами, но вероятная способность роботов дать нам отпор должна заставить нас задуматься.

 

«Животные не способны отомстить, — утверждает Агар. — Но это смогут сделать сознательные машины».

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Вчера, 18:38
14 минут
Василий Парфенов

Новое масштабное журналистское расследование собрало воедино самые вопиющие факты коррупции, махинаций с официальной статистикой и игнорирования пандемии на государственном уровне.

13 апреля
5 минут
Илья Ведмеденко

Согласно представленным данным, строительству российской орбитальной станции дали зеленый свет. Практическая реализация программы должна начаться вскоре.

5 часов назад
3 минуты
Сергей Васильев

Новый краситель на основе сульфата бария отражает видимые и ИК-волны, сохраняя температуру ниже окружающей среды.

13 апреля
5 минут
Илья Ведмеденко

Согласно представленным данным, строительству российской орбитальной станции дали зеленый свет. Практическая реализация программы должна начаться вскоре.

13 апреля
5 минут
Ольга Иванова

Ученые из Австралии узнали, на протяжении какого периода времени сохраняется эффект эйфории после употребления марихуаны. Это необходимо, например, для более эффективного применения лекарств на основе каннабиса или понимания того, сколько времени необходимо, чтобы сесть за руль.

Вчера, 18:38
14 минут
Василий Парфенов

Новое масштабное журналистское расследование собрало воедино самые вопиющие факты коррупции, махинаций с официальной статистикой и игнорирования пандемии на государственном уровне.

17 марта
12 минут
Василий Парфенов

Продолжавшееся более пяти лет уголовное дело подошло к завершению: серийного сетевого сексуального маньяка осудили на 75 лет тюремного заключения. Чтобы поймать человека, растлившего 375 несовершеннолетних девушек, потребовалось пойти на беспрецедентные и этически спорные меры: создать вредоносное ПО и подсунуть злоумышленнику видеоловушку со встроенным вирусом.

25 марта
36 минут
Александр Березин

Улыбающийся мультимиллиардер планирует понять, насколько эффективно мел в стратосфере защищает планету от солнечного света, и если результат хорош, распылить его там в гигантских количествах. Потенциально это результативная задумка: ученые давно показали, что так можно добиться полного покрытия Земли устойчивыми льдами — вплоть до экватора. Увы, идея Гейтса — плагиат, причем не лучший. Советский исследователь предложил похожее полвека назад с более эффективной серой. Интереснее другое: подобные мероприятия один раз едва не уничтожили человечество. Разбираемся в деталях, а также в том, грозит ли нам повторение.

31 марта
51 минута
Александр Березин

Самый зловещий оружейный проект всех времен и народов — термоядерная торпеда, предназначенная для радиационного поражения огромных площадей и создания искусственного цунами. Никогда до этого ни одна страна даже не заявляла о намерении сделать нечто настолько опасное для живых существ. Поэтому российский проект «Посейдон», обещающий именно это, вызывает бурю эмоций. Однако тщательный технический анализ показывает: в реальности он будет совсем не таким, как об этом пишут в СМИ. Даже если он предназначен для радиационного поражения обширных площадей, оно не будет долгим. А уже через год «омытые» им районы будут абсолютно безопасны. Тем не менее новая система действительно изменит стратегический баланс на планете — но не так, как все думают. Попробуем разобраться в ситуации подробнее.

[miniorange_social_login]

Комментарии

2 Комментария

-
0
+
Что, как, где надо жить, чтобы неожиданно обнаружить себя специалистом по этике и попасть в заголовки СМИ
Подтвердить?
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: