• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
14.03.2019, 16:00
Редакция Naked Science
2
10 954

Специалист по этике: ИИ будущего может отомстить за то, как современный человек обращается с машинами

Эксперт утверждает, что людям стоит задуматься над тем, как они обращаются с системами искусственного интеллекта, чтобы в будущем наш вид не стал жертвой страшной мести.

aiabuse
©Wikipedia / Автор: Telestis Scaevinius

На сегодня большая часть систем искусственного интеллекта — это компьютерные программы, хорошо справляющиеся, в частности, с выявлением закономерностей в данных. Кроме того, миру были представлены и некоторые впечатляющие роботы, которые, однако, все равно имеют серьезные ограничения. 

 

На случай если машины станут разумными или сознательными, у специалиста по этике из Университета королевы Виктории в Веллингтоне Николаса Агара есть серьезное предостережение: машины будущего могут расплатиться с людьми за то, как мы обращаемся с их несознательными предками сегодня.

 

«Возможно, наше поведение по отношению к несознательному ИИ сегодня должно соотноситься с тем, как мы хотели бы, чтобы люди обращались с любым ИИ будущего, который сможет чувствовать и сможет страдать, — пишет Агар в своем эссе для портала The Conversation. — Как, по нашему мнению, на нас будут реагировать сознательные машины будущего?»

 

Идея о роботах, с которыми плохо обращались и которые восстали против людей, не так давно была озвучена в таких научно-фантастических лентах, как «Мир Дикого Запада» и «Бегущий по лезвию». Вкратце, согласно Агару, лучше перестать оскорблять Алексу и Кортану, если, конечно, вы не хотите, чтобы в один прекрасный день вашу дверь выбил терминатор.

 

«Если мы намереваемся создать машины с человеческими психологическими качествами, нам следует подготовиться к тому, что они могут стать сознательными, — пишет Агар. — Как тогда они отреагируют на наше поведение?»

 

Идея о плохом обращении с роботами поднимает проблему того, как человек вообще обращается с другими существами. Например, сторонники «роботизированных борделей» утверждают, что люди со склонностью к жестокости имеют возможность действовать согласно своим позывам, при этом не причиняя никому вреда, но противники беспокоятся, что это может побудить таких клиентов к проявлению жестокости, которую они хотели бы выражать по отношению к другим людям.

 

Агар сравнил эту ситуацию с убийствами животных ради шкур и мяса, утверждая, что у людей есть устаревшая привычка к жестоким действиям по отношению к тем, кого они считают низшими существами, но вероятная способность роботов дать нам отпор должна заставить нас задуматься.

 

«Животные не способны отомстить, — утверждает Агар. — Но это смогут сделать сознательные машины».

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Предстоящие мероприятия
13 октября, 11:10
Илья Гриднев

Согласно новой гипотезе, сознание возникает не только из-за активности нейронов, но и благодаря физическим процессам — электромагнитным полям от движения жидкости в мозге. Эта модель, как и ее предшественники, пока носит теоретический характер, но предлагает нестандартный взгляд на проблему синхронизации работы разных отделов мозга.

13 октября, 14:42
Юлия Трепалина

Некоторые люди жалуются, что птицы регулярно испражняются на их машины. Опрос водителей показал, что автомобили определенного цвета и даже марок действительно чаще других становятся целью для пернатых.

11 октября, 11:07
Юлия Трепалина

Некоторые домашние собаки ведут себя с игрушками так, что это напоминает поведенческую зависимость у людей. В эксперименте швейцарские ученые выявили симптомы «игрушкомании» у трети псов-участников, что может говорить об их распространенности.

13 октября, 11:10
Илья Гриднев

Согласно новой гипотезе, сознание возникает не только из-за активности нейронов, но и благодаря физическим процессам — электромагнитным полям от движения жидкости в мозге. Эта модель, как и ее предшественники, пока носит теоретический характер, но предлагает нестандартный взгляд на проблему синхронизации работы разных отделов мозга.

10 октября, 11:23
МГППУ

Креативность чаще всего ассоциируется с творчеством и искусством. Однако не всегда креатив направлен на благо. Например, схемы мошенников тоже можно назвать креативными, хотя они служат обману и личной выгоде. Такое «творчество» называют антисоциальным. К нему также относятся склонность ко лжи, оригинальной мести, злобным шуткам и розыгрышам, мошенничеству, дезинформации, политическим манипуляциям, слухам и домыслам. Психологи МГППУ рассмотрели особенности восприятия и понимания информации у людей с высокой антисоциальной креативностью и сравнили с характеристиками тех, кто обладает положительными чертами личности, в частности чертами Светлой триады — согласия, прощения и доброжелательности.

10 октября, 15:55
Игорь Байдов

Голые землекопы живут почти 40 лет — невероятный срок для грызуна размером с мышь. Недавнее открытие китайских ученых показало, что долголетие этим животным обеспечивает необычная версия одного белка, который не просто защищает организм, а буквально чинит его изнутри — ускоряет восстановление ДНК. Новые данные могут помочь продлить и человеческую жизнь.

20 сентября, 08:52
Александр Березин

Посадка, включая выгорание куска степи, прошла штатно, но часть грызунов на борту погибли. Правда, погубила их не повышенная космическая радиация полярной орбиты, влияние которой на млекопитающих планировали выявить в миссии, а более банальные причины.

26 сентября, 11:41
ИИМК РАН

Археологи Института истории материальной культуры РАН (ИИМК РАН), при поддержке фонда «История отечества» в ходе раскопок обнаружили на всемирно известной стоянке каменного века Костенки-17 в Воронежской области редчайшие украшения из зубов песца и окаменелой раковины, а также уникальный для этого времени нуклеус из бивня мамонта для снятия заготовок.

29 сентября, 15:09
Адель Романова

Обычно выбрасываемое кометой вещество придает ей заметное ускорение. Как выяснилось, с третьим известным науке межзвездным объектом 3I/ATLAS этого практически не происходит, хотя у него есть и кома, и хвост. Астрофизики сейчас пытаются найти этому объяснение.

[miniorange_social_login]

Комментарии

2 Комментария
-
0
+
Что, как, где надо жить, чтобы неожиданно обнаружить себя специалистом по этике и попасть в заголовки СМИ
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно