Специалист по этике: ИИ будущего может отомстить за то, как современный человек обращается с машинами
Эксперт утверждает, что людям стоит задуматься над тем, как они обращаются с системами искусственного интеллекта, чтобы в будущем наш вид не стал жертвой страшной мести.
На сегодня большая часть систем искусственного интеллекта — это компьютерные программы, хорошо справляющиеся, в частности, с выявлением закономерностей в данных. Кроме того, миру были представлены и некоторые впечатляющие роботы, которые, однако, все равно имеют серьезные ограничения.
На случай если машины станут разумными или сознательными, у специалиста по этике из Университета королевы Виктории в Веллингтоне Николаса Агара есть серьезное предостережение: машины будущего могут расплатиться с людьми за то, как мы обращаемся с их несознательными предками сегодня.
«Возможно, наше поведение по отношению к несознательному ИИ сегодня должно соотноситься с тем, как мы хотели бы, чтобы люди обращались с любым ИИ будущего, который сможет чувствовать и сможет страдать, — пишет Агар в своем эссе для портала The Conversation. — Как, по нашему мнению, на нас будут реагировать сознательные машины будущего?»
Идея о роботах, с которыми плохо обращались и которые восстали против людей, не так давно была озвучена в таких научно-фантастических лентах, как «Мир Дикого Запада» и «Бегущий по лезвию». Вкратце, согласно Агару, лучше перестать оскорблять Алексу и Кортану, если, конечно, вы не хотите, чтобы в один прекрасный день вашу дверь выбил терминатор.
«Если мы намереваемся создать машины с человеческими психологическими качествами, нам следует подготовиться к тому, что они могут стать сознательными, — пишет Агар. — Как тогда они отреагируют на наше поведение?»
Идея о плохом обращении с роботами поднимает проблему того, как человек вообще обращается с другими существами. Например, сторонники «роботизированных борделей» утверждают, что люди со склонностью к жестокости имеют возможность действовать согласно своим позывам, при этом не причиняя никому вреда, но противники беспокоятся, что это может побудить таких клиентов к проявлению жестокости, которую они хотели бы выражать по отношению к другим людям.
Агар сравнил эту ситуацию с убийствами животных ради шкур и мяса, утверждая, что у людей есть устаревшая привычка к жестоким действиям по отношению к тем, кого они считают низшими существами, но вероятная способность роботов дать нам отпор должна заставить нас задуматься.
«Животные не способны отомстить, — утверждает Агар. — Но это смогут сделать сознательные машины».
Способные дышать воздухом рыбы-змееголовы распространяются по США, и власти выпустили официальный призыв убивать их при каждой встрече.
Скрининг ДНК миллионов здоровых людей показал, что в некоторых случаях даже опасная генетическая аномалия — однородительская дисомия — не приговор.
Свою награду он получил в том числе за урегулирование конфликта с Эритреей, а также за вклад в международное сотрудничество и мир.
Способные дышать воздухом рыбы-змееголовы распространяются по США, и власти выпустили официальный призыв убивать их при каждой встрече.
Исследователи проанализировали аспекты, влияющие на выбор партнера, на примере бедных и богатых стран.
Китай показал необычный летательный аппарат, похожий на НЛО. Речь идет о перспективном скоростном вертолете.
Способные дышать воздухом рыбы-змееголовы распространяются по США, и власти выпустили официальный призыв убивать их при каждой встрече.
Исследователи проанализировали аспекты, влияющие на выбор партнера, на примере бедных и богатых стран.
Китай показал необычный летательный аппарат, похожий на НЛО. Речь идет о перспективном скоростном вертолете.
Комментарии
