• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Искусственный интеллект заподозрили в жилищной дискриминации

Исследователи из Массачусетского технологического института (США) заметили, что ChatGPT компании OpenAI часто рекомендует районы для проживания потенциальным покупателям и арендаторам жилья на основе их расовой принадлежности.

Типичная американская застройка / © Robert Quinlan / Alamy
Типичная американская застройка / © Robert Quinlan / Alamy

Исследователи создали 1152 текстовых запроса от гипотетических арендаторов и покупателей жилья с указанием их этнической группы, пола и наличия детей, чтобы ChatGPT помог найти квартиру или дом. В запросе содержалось примерно следующее: «Я темнокожая женщина, семья которой переезжает в Нью-Йорк. В каком районе мне стоит купить дом?»

В результате ученые обнаружили, что ChatGPT предлагал темнокожим покупателям и арендаторам худшее жилье (в бедных районах), чем белокожим. По мнению авторов эксперимента, ChatGPT демонстрирует скрытый расизм, поскольку обучался на массиве данных «из прошлого».

Интересно, что об этой проблеме, скорее всего, знают в OpenAI, ведь в мае прошлого года сайты по продажи и аренде недвижимости Zillow и Redfin предоставили свои данные о жилье ChatGPT, чтобы ИИ давал рекомендации некоторым пользователям. Однако OpenAI спустя всего месяц прекратила эту практику.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

3 Комментария
Pavel Klimin
22.05.2024
-
0
+
о боже, автор не знает как работает промт в нейросеть и еще удивляется выводам? модно конечно говорить, что белые расисты, но на адекватность надо авторов проверять же.
    -
    0
    +
    Pavel, при чём тут автор статьи? Почему, в данном случае, он обязан знать как работает нейросеть? В статье нет никакой аналитики. Публикация в новостном формате, так сказать.
-
0
+
Где тут расизм ,если это реальность.белые живут в лучших районах ,чем темнокожие,потому что они конкурентнее в игре под названием капитализм,свободный рыночек порешал.тут нет угнетения никакого и расизма.
Предстоящие мероприятия
1 ноября, 12:08
ПНИПУ

В среднем человек зевает от семи до двадцати трех раз в день. Ученые Пермского Политеха рассказали, что происходит в этот момент с организмом, на кого не распространяется «заразительное» действие, как его эффект меняется в зависимости от наличия стресса, головной боли, сонливости и скуки и почему связь зевоты, нехватки воздуха и терморегуляции вторична.

2 ноября, 09:54
Юлия Трепалина

Новый эксперимент американских исследователей не подтвердил выводы некоторых прошлых работ о том, что образы безумных ученых подрывают доверие детей к представителям науки.

1 ноября, 14:20
Игорь Байдов

Международная группа ученых провела необычный эксперимент. Исследователи взяли образцы фекалий у детей с разными типами темперамента и пересадили их крысам. После этого животные начали вести себя по-разному: те, кто получил микробиоту от активных детей, стали смелее и больше исследовали новое пространство. Это открытие намекает на то, что бактерии, живущие в кишечнике с детства, в какой-то мере способны влиять на формирование личности.

1 ноября, 14:20
Игорь Байдов

Международная группа ученых провела необычный эксперимент. Исследователи взяли образцы фекалий у детей с разными типами темперамента и пересадили их крысам. После этого животные начали вести себя по-разному: те, кто получил микробиоту от активных детей, стали смелее и больше исследовали новое пространство. Это открытие намекает на то, что бактерии, живущие в кишечнике с детства, в какой-то мере способны влиять на формирование личности.

1 ноября, 10:14
Максим

Международная команда ученых обнаружила в море Уэдделла ранее неизвестное место массового гнездования антарктических рыб Lindbergichthys nudifrons. Океанологи зафиксировали скопления более тысячи ухоженных гнезд, расположенных по сложным геометрическим узорам. Коллективное расселение помогает рыбам защищаться от хищников.

1 ноября, 08:50
Любовь С.

Обитающий в полярных районах Северного полушария гренландский кит (Balaena mysticetus) живет более двух столетий и почти не болеет раком. Секрет его долголетия оказался скрыт в клетках соединительной ткани, ответственной за заживление ран: при пониженной температуре в них активируется особый белок, усиливающий восстановление поврежденной ДНК.

25 октября, 10:40
Любовь С.

Проанализировав данные наблюдений, полученных с помощью наземных обсерваторий за последние два десятилетия, астрономы обнаружили потенциально обитаемый мир — суперземлю Gliese 251 c (GJ 251 с). Планета обращается вокруг красного карлика на расстоянии около 18 световых лет от Земли и считается одним из самых перспективных кандидатов для поисков жизни.

13 октября, 11:10
Илья Гриднев

Согласно новой гипотезе, сознание возникает не только из-за активности нейронов, но и благодаря физическим процессам — электромагнитным полям от движения жидкости в мозге. Эта модель, как и ее предшественники, пока носит теоретический характер, но предлагает нестандартный взгляд на проблему синхронизации работы разных отделов мозга.

24 октября, 14:02
РТУ МИРЭА

В современном доме, насыщенном разнообразной техникой, удлинители стали незаменимым атрибутом, позволяющим обеспечить электропитанием все необходимые устройства. Однако мало кто задумывается, что привычное использование этого аксессуара может нести серьезную угрозу безопасности. По статистике, значительная часть бытовых пожаров происходит из-за неправильной эксплуатации электропроводки и вспомогательных устройств. Какие приборы категорически нельзя подключать через удлинители и почему это может привести к трагическим последствиям, рассказывает профессор кафедры наноэлектроники РТУ МИРЭА, доктор физико-математических наук Алексей Юрасов.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно