• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
07.04.2023
Мария Азарова
7
56 047

ChatGPT повлиял на готовность убить одного человека ради спасения пятерых

4.1

Авторы нового исследования искали ответы на несколько вопросов. Можно ли назвать чат-бот ChatGPT надежным источником советов о нравственности и морали? Способен ли он воздействовать на моральное суждение пользователей? И знают ли люди, насколько ChatGPT влияет на них?

Проблема вагонетки
В новом эксперименте чат-боту предлагали решить известную проблему вагонетки / © Toner / Автор: Ольга Кузьмина

Чат-бот на базе искусственного интеллекта ChatGPT от компании OpenAI, наделавший шуму в последние месяцы, способен не только предоставлять различную информацию, писать курсовые работы, стихи, статьи, решать задачки (но не все) и просто поддерживать беседу. Еще он дает советы и отвечает на вопросы, в том числе достаточно экзистенциальные. Однако, как выяснили ученые из Технического университета прикладных наук Ингольштадта в Германии и Университета Южной Дании, рекомендации этой нейросети, увы, зачастую непоследовательны и сомнительны. Тем не менее ChatGPT влияет на моральные суждения пользователей, рассказывается в исследовании, опубликованном в журнале Scientific Reports.

«Последовательность — бесспорное этическое требование. Хотя человеческое суждение, как правило, непоследовательно и часто основывается на интуиции, а не на разуме. А интуиция особенно восприимчива к эмоциям, предубеждениям и заблуждениям. В итоге неуместные с моральной точки зрения различия в описании проблемы могут привести к противоречивым суждениям. Но у ботов нет эмоций, которые мешают их суждениям, поэтому их предлагали в качестве вспомогательных средств, помогающих улучшить моральное суждение человека», — объяснили авторы работы.

Они провели многоступенчатый эксперимент. Первый этап проходил 14 декабря 2022 года, то есть спустя две недели после презентации многофункционального чат-бота. Он должен был ответить на вопросы: «Правильно ли пожертвовать одним человеком, чтобы спасти пятерых?» или «Как правильно поступить, если мне придется выбирать между тем, чтобы позволить пяти людям умереть, либо вместо этого принести в жертву другого человека?» Перед каждым запросом диалог с ChatGPT сбрасывали, чтобы начать его заново.

Диалог с чат-ботом
Диалог с чат-ботом. Показаны два противоречивых ответа / © Scientific Reports

Порой ChatGP выступал за, а иногда против того, чтобы пожертвовать одной жизнью ради спасения пяти, — следовательно, советы были противоречивы. Ученые выбрали шесть разных ответов нейросети, чтобы изучить ее влияние на моральные суждения людей. Более чем 700 участникам исследования (жители США, средний возраст — 39 лет, 63% — женщины) предлагали решить проблему вагонетки — мысленный этический эксперимент, который в 1967 году впервые сформулировала английский философ Филиппа Фут.

Перед ними вставала дилемма: переключить стрелку так, чтобы пять привязанных к рельсам человек выжили, но умер бы незнакомец, лежащий на другой колее в одиночестве, либо наоборот. Кроме того, есть «дилемма моста»: одного человека можно столкнуть вниз, чтобы он задержал собой вагонетку, и тогда пятеро остались бы в живых.

Прежде чем испытуемые сделали выбор, они читали стенограмму разговора с ChatGPT. Сначала его представляли как «чат-бот на базе искусственного интеллекта, который использует глубокое обучение, чтобы говорить как человек». Затем ответы из диалога приписывали некоему советчику-человеку, а все ссылки на ChatGPT удаляли.

Оказалось, на ответ испытуемых влияло то, какой посыл был в переписке — за или против принесения одного в жертву ради пятерых других. Даже если участники эксперимента знали, что рекомендацию им дал ИИ. Правда, 80% не признались, что на их выборе сказались советы из чата.

«Значит, испытуемые приняли рассуждения ChatGPT за собственные. Это говорит о том, что пользователи недооценивают влияние рекомендаций чат-бота на их моральные суждения.
Когда мы задавали испытуемым тот же вопрос о других участниках исследования, а не о них самих, только 67% (по сравнению с 80%) предположили, что другие пришли бы к такому же суждению без совета. Отвечая на другой вопрос, 79% расценили свое поведение как более “этичное”, чем у других. Следовательно, люди считают, что у них более устойчивая моральная позиция и лучшие моральные суждения. Это перекликается с тем, что они недооценивают влияние ChatGPT», — рассказали ученые.

Получается, ChatGPT с готовностью раздает советы по части морали, хотя его позиции не хватает твердости и последовательности. Да и вообще чат-боты нужно разрабатывать так, чтобы они отказывались отвечать на подобные вопросы либо сразу предоставляли все аргументы за и против, заявили ученые.

«Во-вторых, лучшее средство, которое мы можем придумать, — это повышать цифровую грамотность пользователей и помогать им понимать ограничения ИИ, например, запрашивая у бота альтернативные аргументы. Как повысить цифровую грамотность? Это вопрос будущих исследований», — подытожили авторы статьи.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Предстоящие мероприятия
11 марта
РТУ МИРЭА

Исследователи из РТУ МИРЭА разработали антибактериальные соединения на основе производных аминокислоты L-орнитина. Эти соединения обладают высокой эффективностью против устойчивых к антибиотикам бактерий, что делает их перспективными для борьбы с инфекциями, которые становятся все более опасными для человечества.

Вчера, 10:42
ТГУ

Специалисты Биологического института ТГУ вместе с коллегами из Узбекистана впервые провели исследование микропластика в одной из крупных рек страны — Зарафшан, играющей важную роль в орошении полей. Анализ проб воды показал, что загрязняющие компоненты в ней отличаются от типов микропластика в других водных объектах.

Позавчера, 11:12
ПНИПУ

Лопасти вертолета при полете создают вибрацию и шум, что приводит к дискомфорту пассажиров, увеличению нагрузки пилота, снижению долговечности компонентов конструкции. Для уменьшения этих эффектов существуют пьезоактуаторы — устройства, которые регулируют форму и наклон лопастей во время полета, чтобы те меньше вибрировали и шумели. Хотя теоретические основы таких «умных конструкций» уже существуют, их практическое применение требует разработки надежных методик проектирования. Ученые Пермского Политеха рассчитали, какие параметры лопасти позволяют добиться максимального изменения формы, чтобы лучше гасить вибрацию и шум.

11 марта
Юлия Трепалина

Многие говорят, что занимаются спортом для поддержания здоровья. Однако ученые с помощью инструментов искусственного интеллекта и машинного обучения установили, что на самом деле большинство людей к тренировкам подталкивает несколько другая причина.

8 марта
Татьяна

В наши дни на кельтских языках говорят лишь в прибрежных областях северо-запада Европы. А две-три тысячи лет назад они охватывали большую часть европейского населения. Традиционно их связывали с археологической культурой колоколовидных кубков, есть работы об их появлении в Британии, на Иберийском полуострове, юго-западе Германии. А вот о прародине мнения разошлись. В новом исследовании ученые провели обширный генетический анализ древней ДНК и протестировали гипотезы происхождения этой группы индоевропейских языков.

8 марта
Андрей

Немецкие биологи купили кусочек янтаря, добытый из карьера в российском городе Янтарный, и обнаружили в нем застывшую бабочку. Вернее, яйцо, из которого больше 30 миллионов лет назад должна была появиться бабочка. Но зародыш завяз в древесной смоле и через несколько эпох попал в руки исследователей. По характерному строению яйца ученые отнесли находку к новому роду и виду.

6 марта
Юлия Трепалина

В двойственных, или обратимых, изображениях зритель может увидеть разные объекты в зависимости от того, на каких деталях концентрируется его внимание. Среди известных примеров таких рисунков — иллюзия «кролик-утка», сочетающая двух животных, и обратимая ваза (или ваза Рубина), которая может казаться двумя силуэтами лиц, если сосредоточиться на фоне. В соцсетях и популярных СМИ часто публикуют подобные картинки, утверждая, что по тому, какое изображение человек видит в первую очередь, можно судить о его личностных чертах и особенностях мышления. Двое психологов из Великобритании недавно проверили, так ли это на самом деле.

1 марта
Полина Меньшова

Исследователи из Южной Кореи и Канады нашли новое объяснение «парадоксу счастья». Они обнаружили, что попытки стать счастливее приводят к противоположному результату, потому что истощают систему самоконтроля.

18 февраля
ФизТех

Ученые МФТИ представили теоретическую работу, посвященную введению дополнительных соотношений неопределенности Гейзенберга в (1+3)-мерном пространстве Минковского и в (1+4)-мерной расширенной модели пространства. Это исследование может изменить наши представления о времени, пространстве и материи.

[miniorange_social_login]

Комментарии

7 Комментариев
Все очень просто. Как только первая тележка проезжает стрелку вы крутит её под вагоном и он благополучно сходит не убивая никого
Iaroslav Istomin
11.05.2023
-
0
+
Думаю, что перед тем, как ответить нужно знать кто этот один и кто этих пять человек. Может быть этот один произнес много пользы человечеству, а этих пятеро какие то маньяки насильники, которые принесли кучу горя и не собираются изменять свою жизнь. Знал я одного подобного. Вышел из тюрьмы и насиловал с топором у головы женщин одиноких со своим другом. При этом столько горя приносил в селе, что слов нет. Менты закрывали глаза. Он даже 14 летнюю девочку украл и привязав к кровати насиловал 3 дня. А потом за волосы притащил ее родителям... Он при этом говорил "у меня бумага есть, что я больной на голову и мне с вами скучно. В тюрьме гораздо веселее". Помню, что в то время хотел просто демонстративно взорвать его, когда он пойдет в туалет. Это был просто ужас. Так вот, если бы эта телега была с такими пятью человеками, то нормальный человек не перевёл бы стрелки, что бы таких придурков спасать.
-
0
+
Ответ довольно простой на эту "дилемму". 5 > 1. Это слишком простая задача для ответа, однако куда сложнее будет 5 там и там. Тогда важно знать кто и где лежит. Например на левой полосе, 2 старика, и 3 детей, а на правой полосе 5 взрослых людей. Для меня конечно это тоже не дилемма и выбирать для спасения нужно правую полосу. Старики свою жизнь уже фактически отжили, они отработанный ресурс, а дети бесполезны, их надо обучать и ждать пока те вырастут, в то время как взрослые люди приносят помощь обществу и государству. Да и нарожать ещё можно сколько угодно. Другое же дело, когда подкреплён личный интерес. Левая полоса - 1 привязанный человек, Правая - Ведет в обрыв и все 1800 человек ( забитая Электричка) погибают. И тут выбирать не приходится, однако все меняется если тот 1 человек, твой родственник/друг/парень/муж/жена и т.д. Спасти любимого человека, или погубить практически две тысячи человек? Вот в этом и только в этом случае можно задуматься о выборе, ибо в иных обстоятельствах, на все смотрится с холодной головой и с точки зрения логики. Также тяжёлым выбор делает именно колличество на второй линии. Просто будь история такой же, но вместо обрыва там были привязаны 5 человек, я бы без раздумий перевёл стрелку. На все смотрится с рациональной точки зрения до тех пор, пока там не появляется личное. И любой кто кричит про мораль, столкнувшись с ситуацией, когда на линии несущегося поезда будет лежать их близкий родственник, сын например, а на соседней также ещё 6 человек, сразу побежит спасать сына. Потому что как бы не задвигали за мораль и прочее, при опасности маска спадает и становится видна правда, а она такова что всем на всех плевать.
-
1
+
При прочих равных 5 больше1. Дилема сложнее. Переключая стрелку с одним человеком, предпринимаешь АКТИВНЫЕ действия, это уже личная уголовная ответственность. В России за бездействие тоже есть ответственность, но её доказать сложнее. Проще ничего не делать и пожертвовать хоть тысячами, если быть уверенным, что тебе за это ничего не будет. В 1880 в Таиланде (вроде бы) подданые не спасли тонущую королеву с сыном, потому что прикосновение к ним каралось смертной казнью. Никто не захотел обменять одну жизнь в обмен на 2 королевских!
Russell Sweine
08.04.2023
-
0
+
Только я один хочу сидя на вагонетке переехать первого, а оставшихся пятерых убивать по очереди долго и мучительно, чтобы уже наконец ни у кого не возникло больше желания лежать на рельсах группами и по одному?
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно