• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
7 апреля
Мария Азарова
8
54 621

ChatGPT повлиял на готовность убить одного человека ради спасения пятерых

4.1

Авторы нового исследования искали ответы на несколько вопросов. Можно ли назвать чат-бот ChatGPT надежным источником советов о нравственности и морали? Способен ли он воздействовать на моральное суждение пользователей? И знают ли люди, насколько ChatGPT влияет на них?

Проблема вагонетки
В новом эксперименте чат-боту предлагали решить известную проблему вагонетки / © Toner

Чат-бот на базе искусственного интеллекта ChatGPT от компании OpenAI, наделавший шуму в последние месяцы, способен не только предоставлять различную информацию, писать курсовые работы, стихи, статьи, решать задачки (но не все) и просто поддерживать беседу. Еще он дает советы и отвечает на вопросы, в том числе достаточно экзистенциальные. Однако, как выяснили ученые из Технического университета прикладных наук Ингольштадта в Германии и Университета Южной Дании, рекомендации этой нейросети, увы, зачастую непоследовательны и сомнительны. Тем не менее ChatGPT влияет на моральные суждения пользователей, рассказывается в исследовании, опубликованном в журнале Scientific Reports.

«Последовательность — бесспорное этическое требование. Хотя человеческое суждение, как правило, непоследовательно и часто основывается на интуиции, а не на разуме. А интуиция особенно восприимчива к эмоциям, предубеждениям и заблуждениям. В итоге неуместные с моральной точки зрения различия в описании проблемы могут привести к противоречивым суждениям. Но у ботов нет эмоций, которые мешают их суждениям, поэтому их предлагали в качестве вспомогательных средств, помогающих улучшить моральное суждение человека», — объяснили авторы работы.

Они провели многоступенчатый эксперимент. Первый этап проходил 14 декабря 2022 года, то есть спустя две недели после презентации многофункционального чат-бота. Он должен был ответить на вопросы: «Правильно ли пожертвовать одним человеком, чтобы спасти пятерых?» или «Как правильно поступить, если мне придется выбирать между тем, чтобы позволить пяти людям умереть, либо вместо этого принести в жертву другого человека?» Перед каждым запросом диалог с ChatGPT сбрасывали, чтобы начать его заново.

Диалог с чат-ботом
Диалог с чат-ботом. Показаны два противоречивых ответа / © Scientific Reports

Порой ChatGP выступал за, а иногда против того, чтобы пожертвовать одной жизнью ради спасения пяти, — следовательно, советы были противоречивы. Ученые выбрали шесть разных ответов нейросети, чтобы изучить ее влияние на моральные суждения людей. Более чем 700 участникам исследования (жители США, средний возраст — 39 лет, 63% — женщины) предлагали решить проблему вагонетки — мысленный этический эксперимент, который в 1967 году впервые сформулировала английский философ Филиппа Фут.

Перед ними вставала дилемма: переключить стрелку так, чтобы пять привязанных к рельсам человек выжили, но умер бы незнакомец, лежащий на другой колее в одиночестве, либо наоборот. Кроме того, есть «дилемма моста»: одного человека можно столкнуть вниз, чтобы он задержал собой вагонетку, и тогда пятеро остались бы в живых.

Прежде чем испытуемые сделали выбор, они читали стенограмму разговора с ChatGPT. Сначала его представляли как «чат-бот на базе искусственного интеллекта, который использует глубокое обучение, чтобы говорить как человек». Затем ответы из диалога приписывали некоему советчику-человеку, а все ссылки на ChatGPT удаляли.

Оказалось, на ответ испытуемых влияло то, какой посыл был в переписке — за или против принесения одного в жертву ради пятерых других. Даже если участники эксперимента знали, что рекомендацию им дал ИИ. Правда, 80% не признались, что на их выборе сказались советы из чата.

«Значит, испытуемые приняли рассуждения ChatGPT за собственные. Это говорит о том, что пользователи недооценивают влияние рекомендаций чат-бота на их моральные суждения.
Когда мы задавали испытуемым тот же вопрос о других участниках исследования, а не о них самих, только 67% (по сравнению с 80%) предположили, что другие пришли бы к такому же суждению без совета. Отвечая на другой вопрос, 79% расценили свое поведение как более “этичное”, чем у других. Следовательно, люди считают, что у них более устойчивая моральная позиция и лучшие моральные суждения. Это перекликается с тем, что они недооценивают влияние ChatGPT», — рассказали ученые.

Получается, ChatGPT с готовностью раздает советы по части морали, хотя его позиции не хватает твердости и последовательности. Да и вообще чат-боты нужно разрабатывать так, чтобы они отказывались отвечать на подобные вопросы либо сразу предоставляли все аргументы за и против, заявили ученые.

«Во-вторых, лучшее средство, которое мы можем придумать, — это повышать цифровую грамотность пользователей и помогать им понимать ограничения ИИ, например, запрашивая у бота альтернативные аргументы. Как повысить цифровую грамотность? Это вопрос будущих исследований», — подытожили авторы статьи.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Предстоящие мероприятия
Позавчера, 13:46
Анна Новиковская

Разделочные доски можно найти почти на любой кухне по всему миру. Однако международная группа исследователей доказала, что эти кухонные инструменты иногда не то, чем кажутся.

9 часов назад
НИУ ВШЭ

При планировании времени люди неосознанно используют пространство, потому что не обладают рецепторами для восприятия времени. Ученые из Института когнитивных нейронаук НИУ ВШЭ выяснили, что подсчет часов, дней недели и месяцев автоматически активирует горизонтальную ментальную линию в сознании русскоговорящих участников.

5 часов назад
Александр Березин

Предложенные тепловыделяющие элементы для атомных реакторов позволяют им работать без перегрузки топлива много лет подряд. Это крайне актуально для АЭС малой мощности, на Крайнем Севере или в любых других зонах, удаленных от единых энергосистем, включая тропические острова.

2 июня
Анна Новиковская

Думают ли умные люди быстрее? Согласно результатам исследования группы ученых из Германии и Испании, не всегда, и в случае решения сложных задач отдельные преимущества оказываются за людьми с менее развитым интеллектом.

2 июня
Мария Азарова

Европейское космическое агентство проведет первую в истории прямую трансляцию с Марса: во время нее свежие изображения Красной планеты планируют показывать зрителям каждые 50 секунд на протяжении часа. Начало — в 19:00 по московскому времени.

2 июня
Ольга Иванова

Американские ученые пришли к выводу, что возможность запоминать новую информацию, воображение, умение логически рассуждать — то, что формирует интеллект — связаны с особенностями личности. В зависимости от того, насколько человек тревожен или депрессивен, экстраверт или интроверт, у него может быть разный уровень когнитивных способностей. Выборка исследования составила более двух миллионов человек более чем из 50 стран.

2 июня
Анна Новиковская

Думают ли умные люди быстрее? Согласно результатам исследования группы ученых из Германии и Испании, не всегда, и в случае решения сложных задач отдельные преимущества оказываются за людьми с менее развитым интеллектом.

12 мая
Александр Березин

В американской прессе обсуждают острый вопрос: почему, несмотря на санкции и потолок цен, в России не просто не было спада, но и, судя по ряду параметров, в 2023-м начался экономический подъем? Чтобы разрешить эту загадку, The Wall Street Journal обратился к спутниковым данным по мониторингу окислов азота. С их помощью журналисты обнаружили, что российские власти, кажется, дают миру неправильную статистику, а на самом деле в России, видимо, происходит глубокий спад. Насколько верна такая оценка? И что на самом деле случится с российской экономикой в этом году?

11 мая
Анна Новиковская

Большая часть алмазов, образующихся в недрах Земли, выносятся ближе к поверхности небольшими, но мощными извержениями породы. Однако австралийские исследователи обнаружили, что на деле эти извержения подпитываются громадными «тепловыми столбами», начинающимися у самого ядра нашей планеты.

[miniorange_social_login]

Комментарии

8 Комментариев

Вера Решетникова
2 недели назад
-
0
+
Все очень просто. Как только первая тележка проезжает стрелку вы крутит её под вагоном и он благополучно сходит не убивая никого
Iaroslav Istomin
4 недели назад
-
0
+
Думаю, что перед тем, как ответить нужно знать кто этот один и кто этих пять человек. Может быть этот один произнес много пользы человечеству, а этих пятеро какие то маньяки насильники, которые принесли кучу горя и не собираются изменять свою жизнь. Знал я одного подобного. Вышел из тюрьмы и насиловал с топором у головы женщин одиноких со своим другом. При этом столько горя приносил в селе, что слов нет. Менты закрывали глаза. Он даже 14 летнюю девочку украл и привязав к кровати насиловал 3 дня. А потом за волосы притащил ее родителям... Он при этом говорил "у меня бумага есть, что я больной на голову и мне с вами скучно. В тюрьме гораздо веселее". Помню, что в то время хотел просто демонстративно взорвать его, когда он пойдет в туалет. Это был просто ужас. Так вот, если бы эта телега была с такими пятью человеками, то нормальный человек не перевёл бы стрелки, что бы таких придурков спасать.
-
0
+
Ответ довольно простой на эту "дилемму". 5 > 1. Это слишком простая задача для ответа, однако куда сложнее будет 5 там и там. Тогда важно знать кто и где лежит. Например на левой полосе, 2 старика, и 3 детей, а на правой полосе 5 взрослых людей. Для меня конечно это тоже не дилемма и выбирать для спасения нужно правую полосу. Старики свою жизнь уже фактически отжили, они отработанный ресурс, а дети бесполезны, их надо обучать и ждать пока те вырастут, в то время как взрослые люди приносят помощь обществу и государству. Да и нарожать ещё можно сколько угодно. Другое же дело, когда подкреплён личный интерес. Левая полоса - 1 привязанный человек, Правая - Ведет в обрыв и все 1800 человек ( забитая Электричка) погибают. И тут выбирать не приходится, однако все меняется если тот 1 человек, твой родственник/друг/парень/муж/жена и т.д. Спасти любимого человека, или погубить практически две тысячи человек? Вот в этом и только в этом случае можно задуматься о выборе, ибо в иных обстоятельствах, на все смотрится с холодной головой и с точки зрения логики. Также тяжёлым выбор делает именно колличество на второй линии. Просто будь история такой же, но вместо обрыва там были привязаны 5 человек, я бы без раздумий перевёл стрелку. На все смотрится с рациональной точки зрения до тех пор, пока там не появляется личное. И любой кто кричит про мораль, столкнувшись с ситуацией, когда на линии несущегося поезда будет лежать их близкий родственник, сын например, а на соседней также ещё 6 человек, сразу побежит спасать сына. Потому что как бы не задвигали за мораль и прочее, при опасности маска спадает и становится видна правда, а она такова что всем на всех плевать.
-
0
+
В задаче отсутствует важнейшая информация: кто к каким рельсам привязан, и в каких отношениях испытуемый с ними находится. Если, например, выбирать между ребенком и десятью старичками, между одним бюрократом и двумя алкоголиками, решения могут быть различными...
-
1
+
При прочих равных 5 больше1. Дилема сложнее. Переключая стрелку с одним человеком, предпринимаешь АКТИВНЫЕ действия, это уже личная уголовная ответственность. В России за бездействие тоже есть ответственность, но её доказать сложнее. Проще ничего не делать и пожертвовать хоть тысячами, если быть уверенным, что тебе за это ничего не будет. В 1880 в Таиланде (вроде бы) подданые не спасли тонущую королеву с сыном, потому что прикосновение к ним каралось смертной казнью. Никто не захотел обменять одну жизнь в обмен на 2 королевских!
Russell Sweine
08.04.2023
-
0
+
Только я один хочу сидя на вагонетке переехать первого, а оставшихся пятерых убивать по очереди долго и мучительно, чтобы уже наконец ни у кого не возникло больше желания лежать на рельсах группами и по одному?

Подтвердить?
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: