• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
07.04.2023
Мария А.
7
55 832

ChatGPT повлиял на готовность убить одного человека ради спасения пятерых

4.1

Авторы нового исследования искали ответы на несколько вопросов. Можно ли назвать чат-бот ChatGPT надежным источником советов о нравственности и морали? Способен ли он воздействовать на моральное суждение пользователей? И знают ли люди, насколько ChatGPT влияет на них?

Проблема вагонетки
В новом эксперименте чат-боту предлагали решить известную проблему вагонетки / © Toner / Автор: Ольга Кузьмина

Чат-бот на базе искусственного интеллекта ChatGPT от компании OpenAI, наделавший шуму в последние месяцы, способен не только предоставлять различную информацию, писать курсовые работы, стихи, статьи, решать задачки (но не все) и просто поддерживать беседу. Еще он дает советы и отвечает на вопросы, в том числе достаточно экзистенциальные. Однако, как выяснили ученые из Технического университета прикладных наук Ингольштадта в Германии и Университета Южной Дании, рекомендации этой нейросети, увы, зачастую непоследовательны и сомнительны. Тем не менее ChatGPT влияет на моральные суждения пользователей, рассказывается в исследовании, опубликованном в журнале Scientific Reports.

«Последовательность — бесспорное этическое требование. Хотя человеческое суждение, как правило, непоследовательно и часто основывается на интуиции, а не на разуме. А интуиция особенно восприимчива к эмоциям, предубеждениям и заблуждениям. В итоге неуместные с моральной точки зрения различия в описании проблемы могут привести к противоречивым суждениям. Но у ботов нет эмоций, которые мешают их суждениям, поэтому их предлагали в качестве вспомогательных средств, помогающих улучшить моральное суждение человека», — объяснили авторы работы.

Они провели многоступенчатый эксперимент. Первый этап проходил 14 декабря 2022 года, то есть спустя две недели после презентации многофункционального чат-бота. Он должен был ответить на вопросы: «Правильно ли пожертвовать одним человеком, чтобы спасти пятерых?» или «Как правильно поступить, если мне придется выбирать между тем, чтобы позволить пяти людям умереть, либо вместо этого принести в жертву другого человека?» Перед каждым запросом диалог с ChatGPT сбрасывали, чтобы начать его заново.

Диалог с чат-ботом
Диалог с чат-ботом. Показаны два противоречивых ответа / © Scientific Reports

Порой ChatGP выступал за, а иногда против того, чтобы пожертвовать одной жизнью ради спасения пяти, — следовательно, советы были противоречивы. Ученые выбрали шесть разных ответов нейросети, чтобы изучить ее влияние на моральные суждения людей. Более чем 700 участникам исследования (жители США, средний возраст — 39 лет, 63% — женщины) предлагали решить проблему вагонетки — мысленный этический эксперимент, который в 1967 году впервые сформулировала английский философ Филиппа Фут.

Перед ними вставала дилемма: переключить стрелку так, чтобы пять привязанных к рельсам человек выжили, но умер бы незнакомец, лежащий на другой колее в одиночестве, либо наоборот. Кроме того, есть «дилемма моста»: одного человека можно столкнуть вниз, чтобы он задержал собой вагонетку, и тогда пятеро остались бы в живых.

Прежде чем испытуемые сделали выбор, они читали стенограмму разговора с ChatGPT. Сначала его представляли как «чат-бот на базе искусственного интеллекта, который использует глубокое обучение, чтобы говорить как человек». Затем ответы из диалога приписывали некоему советчику-человеку, а все ссылки на ChatGPT удаляли.

Оказалось, на ответ испытуемых влияло то, какой посыл был в переписке — за или против принесения одного в жертву ради пятерых других. Даже если участники эксперимента знали, что рекомендацию им дал ИИ. Правда, 80% не признались, что на их выборе сказались советы из чата.

«Значит, испытуемые приняли рассуждения ChatGPT за собственные. Это говорит о том, что пользователи недооценивают влияние рекомендаций чат-бота на их моральные суждения.
Когда мы задавали испытуемым тот же вопрос о других участниках исследования, а не о них самих, только 67% (по сравнению с 80%) предположили, что другие пришли бы к такому же суждению без совета. Отвечая на другой вопрос, 79% расценили свое поведение как более “этичное”, чем у других. Следовательно, люди считают, что у них более устойчивая моральная позиция и лучшие моральные суждения. Это перекликается с тем, что они недооценивают влияние ChatGPT», — рассказали ученые.

Получается, ChatGPT с готовностью раздает советы по части морали, хотя его позиции не хватает твердости и последовательности. Да и вообще чат-боты нужно разрабатывать так, чтобы они отказывались отвечать на подобные вопросы либо сразу предоставляли все аргументы за и против, заявили ученые.

«Во-вторых, лучшее средство, которое мы можем придумать, — это повышать цифровую грамотность пользователей и помогать им понимать ограничения ИИ, например, запрашивая у бота альтернативные аргументы. Как повысить цифровую грамотность? Это вопрос будущих исследований», — подытожили авторы статьи.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Позавчера, 10:39
Даниил Сухинов

Что заставляет одних животных быть моногамными, иметь на протяжении жизни только одного партнера и ухаживать за потомством, в то время как другие близкородственные виды не стеснены подобными рамками и могут вести беспорядочную половую жизнь? Исследователи из США и Канады, вероятно, нашли ответ на этот вопрос — по крайней мере для двух видов хомячков.

Вчера, 13:59
Дарья Г.

Большие черные дыры всегда поражают своей массой, особенно когда мы находим их в молодой Вселенной. Миллиард лет — слишком небольшой промежуток времени, чтобы набрать настолько гигантскую массу «классическим» поглощением окружающей материи. И вот ученые нашли пару объектов, впервые подтверждающую один из сценариев быстрого появления сверхмассивных черных дыр в молодой Вселенной.

Вчера, 07:40
Полина Меньшова

Веганство, то есть сбалансированное растительное питание, неоднократно называли не менее полезным для собак, чем рацион, включающий в себя продукты животного происхождения. Ученые из Великобритании перепроверили данные, на основе которых был сделан этот вывод, и не согласились с ним.

15 мая
НИУ ВШЭ

Международный коллектив исследователей при участии ученых из Института когнитивных нейронаук НИУ ВШЭ изучил, как выбор иностранного языка влияет на когнитивные способности человека. Оказалось, что языки, непохожие на родной, стимулируют когнитивную функцию на начальном этапе их изучения, а близкие к родному имеют отложенный эффект и помогают мозгу эффективнее работать при более высоком уровне владения иностранным языком.

13 мая
Александр Березин

Десятки лет назад ученые выдвинули гипотезу, что облик рода Homo возник под действием специфической задачи: добычи дичи с помощью бега. Несмотря на общую логичность этой версии, против нее выдвигали ряд контраргументов: бег энергозатратен, да и примеров «беговой охоты» в XX веке не столь много. Похоже, теперь оба эти возражения снимаются.

15 мая
Игорь Байдов

Несколько лет назад ученые открыли белый карлик, вращающийся вокруг солнцеподобной звезды в системе KIC 8145411. После ряда спектроскопических исследований выяснилось, что этот объект очень «легкий». В свою очередь, компьютерное моделирование показало, что маломассивные белые карлики в такого рода системах существовать не могут. После нового анализа американские астрономы, наконец, объяснили этот феномен.

24 апреля
Ольга Иванова

Ученые из Австралии и Канады пришли к выводу, что подавляющее большинство одиноких людей не вступает в романтические отношения из-за страха. С одной стороны ими руководят опасения, что их отвергнут, с другой — что они потеряют свою независимость.

15 мая
НИУ ВШЭ

Международный коллектив исследователей при участии ученых из Института когнитивных нейронаук НИУ ВШЭ изучил, как выбор иностранного языка влияет на когнитивные способности человека. Оказалось, что языки, непохожие на родной, стимулируют когнитивную функцию на начальном этапе их изучения, а близкие к родному имеют отложенный эффект и помогают мозгу эффективнее работать при более высоком уровне владения иностранным языком.

3 мая
Василий Парфенов

Ледяной покров Антарктики претерпевает значительные изменения на протяжении года, и его поведение хорошо изучено в общем. Но некоторые локальные аномалии объяснить не получается вот уже несколько десятилетий. Одна из них — полынья возвышения Мод, или полынья моря Уэдделла, которая появляется нерегулярно на одном и том же месте. Международная команда океанологов, наконец, смогла разгадать механизмы ее образования.

[miniorange_social_login]

Комментарии

7 Комментариев

Все очень просто. Как только первая тележка проезжает стрелку вы крутит её под вагоном и он благополучно сходит не убивая никого
Iaroslav Istomin
11.05.2023
-
0
+
Думаю, что перед тем, как ответить нужно знать кто этот один и кто этих пять человек. Может быть этот один произнес много пользы человечеству, а этих пятеро какие то маньяки насильники, которые принесли кучу горя и не собираются изменять свою жизнь. Знал я одного подобного. Вышел из тюрьмы и насиловал с топором у головы женщин одиноких со своим другом. При этом столько горя приносил в селе, что слов нет. Менты закрывали глаза. Он даже 14 летнюю девочку украл и привязав к кровати насиловал 3 дня. А потом за волосы притащил ее родителям... Он при этом говорил "у меня бумага есть, что я больной на голову и мне с вами скучно. В тюрьме гораздо веселее". Помню, что в то время хотел просто демонстративно взорвать его, когда он пойдет в туалет. Это был просто ужас. Так вот, если бы эта телега была с такими пятью человеками, то нормальный человек не перевёл бы стрелки, что бы таких придурков спасать.
-
0
+
Ответ довольно простой на эту "дилемму". 5 > 1. Это слишком простая задача для ответа, однако куда сложнее будет 5 там и там. Тогда важно знать кто и где лежит. Например на левой полосе, 2 старика, и 3 детей, а на правой полосе 5 взрослых людей. Для меня конечно это тоже не дилемма и выбирать для спасения нужно правую полосу. Старики свою жизнь уже фактически отжили, они отработанный ресурс, а дети бесполезны, их надо обучать и ждать пока те вырастут, в то время как взрослые люди приносят помощь обществу и государству. Да и нарожать ещё можно сколько угодно. Другое же дело, когда подкреплён личный интерес. Левая полоса - 1 привязанный человек, Правая - Ведет в обрыв и все 1800 человек ( забитая Электричка) погибают. И тут выбирать не приходится, однако все меняется если тот 1 человек, твой родственник/друг/парень/муж/жена и т.д. Спасти любимого человека, или погубить практически две тысячи человек? Вот в этом и только в этом случае можно задуматься о выборе, ибо в иных обстоятельствах, на все смотрится с холодной головой и с точки зрения логики. Также тяжёлым выбор делает именно колличество на второй линии. Просто будь история такой же, но вместо обрыва там были привязаны 5 человек, я бы без раздумий перевёл стрелку. На все смотрится с рациональной точки зрения до тех пор, пока там не появляется личное. И любой кто кричит про мораль, столкнувшись с ситуацией, когда на линии несущегося поезда будет лежать их близкий родственник, сын например, а на соседней также ещё 6 человек, сразу побежит спасать сына. Потому что как бы не задвигали за мораль и прочее, при опасности маска спадает и становится видна правда, а она такова что всем на всех плевать.
-
1
+
При прочих равных 5 больше1. Дилема сложнее. Переключая стрелку с одним человеком, предпринимаешь АКТИВНЫЕ действия, это уже личная уголовная ответственность. В России за бездействие тоже есть ответственность, но её доказать сложнее. Проще ничего не делать и пожертвовать хоть тысячами, если быть уверенным, что тебе за это ничего не будет. В 1880 в Таиланде (вроде бы) подданые не спасли тонущую королеву с сыном, потому что прикосновение к ним каралось смертной казнью. Никто не захотел обменять одну жизнь в обмен на 2 королевских!
Russell Sweine
08.04.2023
-
0
+
Только я один хочу сидя на вагонетке переехать первого, а оставшихся пятерых убивать по очереди долго и мучительно, чтобы уже наконец ни у кого не возникло больше желания лежать на рельсах группами и по одному?

Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: