• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
07.04.2023
Мария Азарова
7
55 738

ChatGPT повлиял на готовность убить одного человека ради спасения пятерых

4.1

Авторы нового исследования искали ответы на несколько вопросов. Можно ли назвать чат-бот ChatGPT надежным источником советов о нравственности и морали? Способен ли он воздействовать на моральное суждение пользователей? И знают ли люди, насколько ChatGPT влияет на них?

Проблема вагонетки
В новом эксперименте чат-боту предлагали решить известную проблему вагонетки / © Toner

Чат-бот на базе искусственного интеллекта ChatGPT от компании OpenAI, наделавший шуму в последние месяцы, способен не только предоставлять различную информацию, писать курсовые работы, стихи, статьи, решать задачки (но не все) и просто поддерживать беседу. Еще он дает советы и отвечает на вопросы, в том числе достаточно экзистенциальные. Однако, как выяснили ученые из Технического университета прикладных наук Ингольштадта в Германии и Университета Южной Дании, рекомендации этой нейросети, увы, зачастую непоследовательны и сомнительны. Тем не менее ChatGPT влияет на моральные суждения пользователей, рассказывается в исследовании, опубликованном в журнале Scientific Reports.

«Последовательность — бесспорное этическое требование. Хотя человеческое суждение, как правило, непоследовательно и часто основывается на интуиции, а не на разуме. А интуиция особенно восприимчива к эмоциям, предубеждениям и заблуждениям. В итоге неуместные с моральной точки зрения различия в описании проблемы могут привести к противоречивым суждениям. Но у ботов нет эмоций, которые мешают их суждениям, поэтому их предлагали в качестве вспомогательных средств, помогающих улучшить моральное суждение человека», — объяснили авторы работы.

Они провели многоступенчатый эксперимент. Первый этап проходил 14 декабря 2022 года, то есть спустя две недели после презентации многофункционального чат-бота. Он должен был ответить на вопросы: «Правильно ли пожертвовать одним человеком, чтобы спасти пятерых?» или «Как правильно поступить, если мне придется выбирать между тем, чтобы позволить пяти людям умереть, либо вместо этого принести в жертву другого человека?» Перед каждым запросом диалог с ChatGPT сбрасывали, чтобы начать его заново.

Диалог с чат-ботом
Диалог с чат-ботом. Показаны два противоречивых ответа / © Scientific Reports

Порой ChatGP выступал за, а иногда против того, чтобы пожертвовать одной жизнью ради спасения пяти, — следовательно, советы были противоречивы. Ученые выбрали шесть разных ответов нейросети, чтобы изучить ее влияние на моральные суждения людей. Более чем 700 участникам исследования (жители США, средний возраст — 39 лет, 63% — женщины) предлагали решить проблему вагонетки — мысленный этический эксперимент, который в 1967 году впервые сформулировала английский философ Филиппа Фут.

Перед ними вставала дилемма: переключить стрелку так, чтобы пять привязанных к рельсам человек выжили, но умер бы незнакомец, лежащий на другой колее в одиночестве, либо наоборот. Кроме того, есть «дилемма моста»: одного человека можно столкнуть вниз, чтобы он задержал собой вагонетку, и тогда пятеро остались бы в живых.

Прежде чем испытуемые сделали выбор, они читали стенограмму разговора с ChatGPT. Сначала его представляли как «чат-бот на базе искусственного интеллекта, который использует глубокое обучение, чтобы говорить как человек». Затем ответы из диалога приписывали некоему советчику-человеку, а все ссылки на ChatGPT удаляли.

Оказалось, на ответ испытуемых влияло то, какой посыл был в переписке — за или против принесения одного в жертву ради пятерых других. Даже если участники эксперимента знали, что рекомендацию им дал ИИ. Правда, 80% не признались, что на их выборе сказались советы из чата.

«Значит, испытуемые приняли рассуждения ChatGPT за собственные. Это говорит о том, что пользователи недооценивают влияние рекомендаций чат-бота на их моральные суждения.
Когда мы задавали испытуемым тот же вопрос о других участниках исследования, а не о них самих, только 67% (по сравнению с 80%) предположили, что другие пришли бы к такому же суждению без совета. Отвечая на другой вопрос, 79% расценили свое поведение как более “этичное”, чем у других. Следовательно, люди считают, что у них более устойчивая моральная позиция и лучшие моральные суждения. Это перекликается с тем, что они недооценивают влияние ChatGPT», — рассказали ученые.

Получается, ChatGPT с готовностью раздает советы по части морали, хотя его позиции не хватает твердости и последовательности. Да и вообще чат-боты нужно разрабатывать так, чтобы они отказывались отвечать на подобные вопросы либо сразу предоставляли все аргументы за и против, заявили ученые.

«Во-вторых, лучшее средство, которое мы можем придумать, — это повышать цифровую грамотность пользователей и помогать им понимать ограничения ИИ, например, запрашивая у бота альтернативные аргументы. Как повысить цифровую грамотность? Это вопрос будущих исследований», — подытожили авторы статьи.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Предстоящие мероприятия
Позавчера, 19:20
Мария Азарова

Исследователи из Южной Кореи на примере супружеских пар проверили, как длина и состояние волос женщин отражаются на влечении к ним мужчин и частоте половых контактов.

Вчера, 07:27
Полина

Международная команда исследователей проанализировала гены композитора Людвига ван Бетховена. Если оценивать по ним его способности к музыке, они окажутся невыдающимися.

Вчера, 07:30
Андрей

Международный союз геологических наук решительно отверг антропоцен как новую эпоху в истории Земли. Термин, который активно обсуждали 15 лет, останется неформальным.

Позавчера, 19:20
Мария Азарова

Исследователи из Южной Кореи на примере супружеских пар проверили, как длина и состояние волос женщин отражаются на влечении к ним мужчин и частоте половых контактов.

Вчера, 07:27
Полина

Международная команда исследователей проанализировала гены композитора Людвига ван Бетховена. Если оценивать по ним его способности к музыке, они окажутся невыдающимися.

21 марта
Дарья Губина

По спектральным данным от «Джеймса Уэбба» и результатам компьютерного моделирования атмосферы астрономы показали, что экзопланета LHS 1140 b — мир-океан. Причем по характеристикам это лучший на сегодня потенциально обитаемый мир, подходящий для пристального изучения.

11 марта
Игорь Байдов

Американская компания Stratolaunch сообщила об успешном завершении летных испытаний прототипа гиперзвукового аппарата Talon-A, оснащенного ракетным двигателем. Во время беспилотного полета планер развил сверхзвуковую скорость.

18 марта
Игорь Байдов

Грузовой самолет будут использовать для перевозки 90-метровых лопастей ветряных турбин, которые невозможно доставить по суше из-за размеров. Предполагается, что этот аппарат произведет революцию в сфере возобновляемых источников энергии.

13 марта
Алиса Гаджиева

Древние переселенцы из Анатолии не только устроили геноцид в Скандинавии, но и одарили выживших новыми болезнями.

[miniorange_social_login]

Комментарии

7 Комментариев

Все очень просто. Как только первая тележка проезжает стрелку вы крутит её под вагоном и он благополучно сходит не убивая никого
Iaroslav Istomin
11.05.2023
-
0
+
Думаю, что перед тем, как ответить нужно знать кто этот один и кто этих пять человек. Может быть этот один произнес много пользы человечеству, а этих пятеро какие то маньяки насильники, которые принесли кучу горя и не собираются изменять свою жизнь. Знал я одного подобного. Вышел из тюрьмы и насиловал с топором у головы женщин одиноких со своим другом. При этом столько горя приносил в селе, что слов нет. Менты закрывали глаза. Он даже 14 летнюю девочку украл и привязав к кровати насиловал 3 дня. А потом за волосы притащил ее родителям... Он при этом говорил "у меня бумага есть, что я больной на голову и мне с вами скучно. В тюрьме гораздо веселее". Помню, что в то время хотел просто демонстративно взорвать его, когда он пойдет в туалет. Это был просто ужас. Так вот, если бы эта телега была с такими пятью человеками, то нормальный человек не перевёл бы стрелки, что бы таких придурков спасать.
-
0
+
Ответ довольно простой на эту "дилемму". 5 > 1. Это слишком простая задача для ответа, однако куда сложнее будет 5 там и там. Тогда важно знать кто и где лежит. Например на левой полосе, 2 старика, и 3 детей, а на правой полосе 5 взрослых людей. Для меня конечно это тоже не дилемма и выбирать для спасения нужно правую полосу. Старики свою жизнь уже фактически отжили, они отработанный ресурс, а дети бесполезны, их надо обучать и ждать пока те вырастут, в то время как взрослые люди приносят помощь обществу и государству. Да и нарожать ещё можно сколько угодно. Другое же дело, когда подкреплён личный интерес. Левая полоса - 1 привязанный человек, Правая - Ведет в обрыв и все 1800 человек ( забитая Электричка) погибают. И тут выбирать не приходится, однако все меняется если тот 1 человек, твой родственник/друг/парень/муж/жена и т.д. Спасти любимого человека, или погубить практически две тысячи человек? Вот в этом и только в этом случае можно задуматься о выборе, ибо в иных обстоятельствах, на все смотрится с холодной головой и с точки зрения логики. Также тяжёлым выбор делает именно колличество на второй линии. Просто будь история такой же, но вместо обрыва там были привязаны 5 человек, я бы без раздумий перевёл стрелку. На все смотрится с рациональной точки зрения до тех пор, пока там не появляется личное. И любой кто кричит про мораль, столкнувшись с ситуацией, когда на линии несущегося поезда будет лежать их близкий родственник, сын например, а на соседней также ещё 6 человек, сразу побежит спасать сына. Потому что как бы не задвигали за мораль и прочее, при опасности маска спадает и становится видна правда, а она такова что всем на всех плевать.
-
1
+
При прочих равных 5 больше1. Дилема сложнее. Переключая стрелку с одним человеком, предпринимаешь АКТИВНЫЕ действия, это уже личная уголовная ответственность. В России за бездействие тоже есть ответственность, но её доказать сложнее. Проще ничего не делать и пожертвовать хоть тысячами, если быть уверенным, что тебе за это ничего не будет. В 1880 в Таиланде (вроде бы) подданые не спасли тонущую королеву с сыном, потому что прикосновение к ним каралось смертной казнью. Никто не захотел обменять одну жизнь в обмен на 2 королевских!
Russell Sweine
08.04.2023
-
0
+
Только я один хочу сидя на вагонетке переехать первого, а оставшихся пятерых убивать по очереди долго и мучительно, чтобы уже наконец ни у кого не возникло больше желания лежать на рельсах группами и по одному?

Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: