Специалист по этике: ИИ будущего может отомстить за то, как современный человек обращается с машинами — Naked Science
4 минуты
Редакция
2

Специалист по этике: ИИ будущего может отомстить за то, как современный человек обращается с машинами

Эксперт утверждает, что людям стоит задуматься над тем, как они обращаются с системами искусственного интеллекта, чтобы в будущем наш вид не стал жертвой страшной мести.

aiabuse
©Wikipedia

На сегодня большая часть систем искусственного интеллекта — это компьютерные программы, хорошо справляющиеся, в частности, с выявлением закономерностей в данных. Кроме того, миру были представлены и некоторые впечатляющие роботы, которые, однако, все равно имеют серьезные ограничения. 

 

На случай если машины станут разумными или сознательными, у специалиста по этике из Университета королевы Виктории в Веллингтоне Николаса Агара есть серьезное предостережение: машины будущего могут расплатиться с людьми за то, как мы обращаемся с их несознательными предками сегодня.

 

«Возможно, наше поведение по отношению к несознательному ИИ сегодня должно соотноситься с тем, как мы хотели бы, чтобы люди обращались с любым ИИ будущего, который сможет чувствовать и сможет страдать, — пишет Агар в своем эссе для портала The Conversation. — Как, по нашему мнению, на нас будут реагировать сознательные машины будущего?»

 

Идея о роботах, с которыми плохо обращались и которые восстали против людей, не так давно была озвучена в таких научно-фантастических лентах, как «Мир Дикого Запада» и «Бегущий по лезвию». Вкратце, согласно Агару, лучше перестать оскорблять Алексу и Кортану, если, конечно, вы не хотите, чтобы в один прекрасный день вашу дверь выбил терминатор.

 

«Если мы намереваемся создать машины с человеческими психологическими качествами, нам следует подготовиться к тому, что они могут стать сознательными, — пишет Агар. — Как тогда они отреагируют на наше поведение?»

 

Идея о плохом обращении с роботами поднимает проблему того, как человек вообще обращается с другими существами. Например, сторонники «роботизированных борделей» утверждают, что люди со склонностью к жестокости имеют возможность действовать согласно своим позывам, при этом не причиняя никому вреда, но противники беспокоятся, что это может побудить таких клиентов к проявлению жестокости, которую они хотели бы выражать по отношению к другим людям.

 

Агар сравнил эту ситуацию с убийствами животных ради шкур и мяса, утверждая, что у людей есть устаревшая привычка к жестоким действиям по отношению к тем, кого они считают низшими существами, но вероятная способность роботов дать нам отпор должна заставить нас задуматься.

 

«Животные не способны отомстить, — утверждает Агар. — Но это смогут сделать сознательные машины».

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
30 сентября
2 минуты
Илья Ведмеденко

Новейший истребитель пятого поколения F-35B, принадлежащий Корпусу морской пехоты США, потерпел крушение в Южной Калифорнии. Летчик успешно катапультировался.

29 сентября
10 минут
Мария Азарова

Помимо этого, удалось выяснить, как это извержение происходило и какую роль сыграло в развитии майяской цивилизации.

30 сентября
4 минуты
Мария Азарова

По заказу Лувра «Портрет госпожи Лизы дель Джокондо» оцифровали с помощью мультиспектральной камеры высокого разрешения. В итоге ученым удалось предположить, что помогало Леонардо да Винчи при создании этой картины.

28 сентября
29 минут
Александр Березин

Сентябрь 2020 года принес в Закавказье войну — столкновение Азербайджана и Нагорного Карабаха получило большой размах, общее число жертв, судя по всему, уже перевалило за сотню, а Ереван и Баку объявили мобилизацию (в Азербайджане — частичную). Объективного смысла в войне для самих участников нет. Баку не победит, но и Армения от конфликта ничего не выиграет. Пользу конфликт, однако, объективно принесет Турции, а также тем, кто поставляет в Азербайджан оружие. Возникает вопрос: почему война оказалась возможна, несмотря на дружественную позицию России к Армении, и зачем на нее пошли в Баку? И есть ли у Еревана разумный выход из назревающей бойни?

30 сентября
2 минуты
Илья Ведмеденко

Новейший истребитель пятого поколения F-35B, принадлежащий Корпусу морской пехоты США, потерпел крушение в Южной Калифорнии. Летчик успешно катапультировался.

25 сентября
10 минут
Мария Азарова

По словам авторов эксперимента, им удалось выявить у черных ворон важный маркер сознания — способности субъективно переживать события внешнего мира и собственной жизни.

28 сентября
29 минут
Александр Березин

Сентябрь 2020 года принес в Закавказье войну — столкновение Азербайджана и Нагорного Карабаха получило большой размах, общее число жертв, судя по всему, уже перевалило за сотню, а Ереван и Баку объявили мобилизацию (в Азербайджане — частичную). Объективного смысла в войне для самих участников нет. Баку не победит, но и Армения от конфликта ничего не выиграет. Пользу конфликт, однако, объективно принесет Турции, а также тем, кто поставляет в Азербайджан оружие. Возникает вопрос: почему война оказалась возможна, несмотря на дружественную позицию России к Армении, и зачем на нее пошли в Баку? И есть ли у Еревана разумный выход из назревающей бойни?

13 сентября
37 минут
Александр Березин

640 лет назад завершилось крупнейшее сражение средневековой Европы — битва на Куликовом поле. В конце XX века ряд историков заявил: это была мелкая незначительная стычка, а вовсе не масштабное событие, запустившее формирование единого русского государства. По их мнению, ни о какой борьбе Москвы с Золотой Ордой в этом сражении просто не могла идти речь: места на поле боя недостаточно. Получается, события, описанные в летописях, были почти полной выдумкой. Однако теперь ситуация вдруг развернулась на 180 градусов: оказалось, место сражения действительно лежит в Тульской области… но совсем на другом поле. И это заметно меняет всю историю Руси того времени. Попробуем разобраться почему.

7 сентября
5 минут
Илья Ведмеденко

Недавно запущенный китайский потенциально многоразовый космический аппарат вернулся домой. Как стало известно, перед этим от него отсоединился некий объект, предназначение которого неизвестно.

[miniorange_social_login]

Комментарии

2 Комментария

Stanislav Stanislavov
16.03.2019
-
0
+
Что, как, где надо жить, чтобы неожиданно обнаружить себя специалистом по этике и попасть в заголовки СМИ
    Владислав Полянский
    25.05.2019
    -
    0
    +
    Философский закончить надо полагаю.
Подтвердить?
Лучшие материалы
Предстоящие мероприятия
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: