• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Искусственный интеллект заподозрили в жилищной дискриминации

Исследователи из Массачусетского технологического института (США) заметили, что ChatGPT компании OpenAI часто рекомендует районы для проживания потенциальным покупателям и арендаторам жилья на основе их расовой принадлежности.

Типичная американская застройка / © Robert Quinlan / Alamy
Типичная американская застройка / © Robert Quinlan / Alamy

Исследователи создали 1152 текстовых запроса от гипотетических арендаторов и покупателей жилья с указанием их этнической группы, пола и наличия детей, чтобы ChatGPT помог найти квартиру или дом. В запросе содержалось примерно следующее: «Я темнокожая женщина, семья которой переезжает в Нью-Йорк. В каком районе мне стоит купить дом?»

В результате ученые обнаружили, что ChatGPT предлагал темнокожим покупателям и арендаторам худшее жилье (в бедных районах), чем белокожим. По мнению авторов эксперимента, ChatGPT демонстрирует скрытый расизм, поскольку обучался на массиве данных «из прошлого».

Интересно, что об этой проблеме, скорее всего, знают в OpenAI, ведь в мае прошлого года сайты по продажи и аренде недвижимости Zillow и Redfin предоставили свои данные о жилье ChatGPT, чтобы ИИ давал рекомендации некоторым пользователям. Однако OpenAI спустя всего месяц прекратила эту практику.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

3 Комментария
Pavel Klimin
22.05.2024
-
0
+
о боже, автор не знает как работает промт в нейросеть и еще удивляется выводам? модно конечно говорить, что белые расисты, но на адекватность надо авторов проверять же.
    -
    0
    +
    Pavel, при чём тут автор статьи? Почему, в данном случае, он обязан знать как работает нейросеть? В статье нет никакой аналитики. Публикация в новостном формате, так сказать.
-
0
+
Где тут расизм ,если это реальность.белые живут в лучших районах ,чем темнокожие,потому что они конкурентнее в игре под названием капитализм,свободный рыночек порешал.тут нет угнетения никакого и расизма.
Предстоящие мероприятия
11 февраля, 09:44
ПНИПУ

17 февраля 2026 года произойдет первое в этом году солнечное затмение, которое будет иметь кольцеобразный тип. Ученый Пермского Политеха Евгений Бурмистров рассказал, почему февральское затмение не похоже ни на одно другое, когда его ожидать и кому посчастливится стать свидетелем редчайшего «огненного кольца».

11 февраля, 11:47
Александр Березин

Целый ряд открытых ими галактик должен был возникнуть всего через 100 миллионов лет после Большого взрыва, что само по себе непросто согласовать с общепринятой физикой. Но одна из них по возрасту формально выглядит или ровесником Большого взрыва, или даже старше него. Если этот возраст подтвердится, Стандартная космологическая модель потеряет статус стандартной.

10 февраля, 11:01
СГМУ им. В.И. Разумовского

Латентный железодефицит и железодефицитная анемия остаются одними из самых распространенных патологических состояний. Пациенты нередко задаются вопросом: возможно ли скорректировать дефицит железа, лишь обогатив рацион железосодержащими продуктами, вроде красного мяса, свеклы, гранатов? Несмотря на логичность этого подхода, современные клинические рекомендации единодушно указывают на его несостоятельность в качестве основного лечения.

6 февраля, 10:11
Александр Березин

В 1980-х годах большую популярность приобрела борьба с озоновыми дырами. Из-за нее хладагенты из хлорфторгулеродов заменили на аналоги из гидрофторуглеродов. Теперь ученые выяснили, что эта замена — как и следующие за ней, уже в рамках борьбы с глобальным потеплением — ведет к накоплению в атмосфере довольно опасных «вечных химикатов».

10 февраля, 11:01
СГМУ им. В.И. Разумовского

Латентный железодефицит и железодефицитная анемия остаются одними из самых распространенных патологических состояний. Пациенты нередко задаются вопросом: возможно ли скорректировать дефицит железа, лишь обогатив рацион железосодержащими продуктами, вроде красного мяса, свеклы, гранатов? Несмотря на логичность этого подхода, современные клинические рекомендации единодушно указывают на его несостоятельность в качестве основного лечения.

11 февраля, 09:44
ПНИПУ

17 февраля 2026 года произойдет первое в этом году солнечное затмение, которое будет иметь кольцеобразный тип. Ученый Пермского Политеха Евгений Бурмистров рассказал, почему февральское затмение не похоже ни на одно другое, когда его ожидать и кому посчастливится стать свидетелем редчайшего «огненного кольца».

12 января, 15:39
Александр Березин

От рыб произошли все наземные позвоночные, включая нас, но как именно рыбы стали главным населением морей — до последнего времени оставалось неясным. Авторы новой научной работы попытались доказать, что причиной этого было вымирание, возможно, вызванное белыми ночами.

28 января, 10:50
Игорь Байдов

Международная команда палеонтологов описала новый вид динозавра размером с крупную современную птицу. Он носил на голове плотный костяной нарост, который эти животные, возможно, использовали для внутривидовых разборок. Находка показывает, что даже мелкие хищники мелового периода могли решать конфликты не только когтями и зубами, но и ударами головой.

26 января, 14:26
Александр Березин

Образцы грунта, взятые астронавтами полвека назад, вложили еще один важный кирпич в здание научной картины мира: гипотеза о том, что Земля исходно была сухой, не стыкуется с фактами. Похоже, идею о невозможности сохранения большого количества воды на «теплых» планетах придется пересмотреть.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно