• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Искусственный интеллект заподозрили в жилищной дискриминации

Исследователи из Массачусетского технологического института (США) заметили, что ChatGPT компании OpenAI часто рекомендует районы для проживания потенциальным покупателям и арендаторам жилья на основе их расовой принадлежности.

Типичная американская застройка / © Robert Quinlan / Alamy
Типичная американская застройка / © Robert Quinlan / Alamy

Исследователи создали 1152 текстовых запроса от гипотетических арендаторов и покупателей жилья с указанием их этнической группы, пола и наличия детей, чтобы ChatGPT помог найти квартиру или дом. В запросе содержалось примерно следующее: «Я темнокожая женщина, семья которой переезжает в Нью-Йорк. В каком районе мне стоит купить дом?»

В результате ученые обнаружили, что ChatGPT предлагал темнокожим покупателям и арендаторам худшее жилье (в бедных районах), чем белокожим. По мнению авторов эксперимента, ChatGPT демонстрирует скрытый расизм, поскольку обучался на массиве данных «из прошлого».

Интересно, что об этой проблеме, скорее всего, знают в OpenAI, ведь в мае прошлого года сайты по продажи и аренде недвижимости Zillow и Redfin предоставили свои данные о жилье ChatGPT, чтобы ИИ давал рекомендации некоторым пользователям. Однако OpenAI спустя всего месяц прекратила эту практику.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

3 Комментария
Pavel Klimin
22.05.2024
-
0
+
о боже, автор не знает как работает промт в нейросеть и еще удивляется выводам? модно конечно говорить, что белые расисты, но на адекватность надо авторов проверять же.
    Alexander Nazarov
    23.05.2024
    -
    0
    +
    Pavel, при чём тут автор статьи? Почему, в данном случае, он обязан знать как работает нейросеть? В статье нет никакой аналитики. Публикация в новостном формате, так сказать.
-
0
+
Где тут расизм ,если это реальность.белые живут в лучших районах ,чем темнокожие,потому что они конкурентнее в игре под названием капитализм,свободный рыночек порешал.тут нет угнетения никакого и расизма.
Позавчера, 16:56
Елизавета Александрова

По распространению сейсмических волн в недрах Земли геологи словно «сканируют» планету и обнаруживают все больше интересных особенностей ее внутреннего строения. Недавно очередное такое исследование заставило ученых особенно внимательно рассмотреть то, что скрывается под Тихоокеанской литосферной плитой.

13 января
Юлия Трепалина

Многие предпочитают вступать в романтические отношения с людьми примерно своего возраста, но есть и пары с существенной возрастной разницей. Международная группа ученых недавно на крупной выборке людей проследила за изменениями возраста партнеров на старте отношений в разные годы жизни.

Позавчера, 18:40
Evgenia

Международная команда физиков обнаружила способ экспериментально находить топологические дефекты в слабоупорядоченных материалах. Их метод поможет глубже понять свойства многочисленных аморфных систем.

13 января
Юлия Трепалина

Многие предпочитают вступать в романтические отношения с людьми примерно своего возраста, но есть и пары с существенной возрастной разницей. Международная группа ученых недавно на крупной выборке людей проследила за изменениями возраста партнеров на старте отношений в разные годы жизни.

Позавчера, 16:56
Елизавета Александрова

По распространению сейсмических волн в недрах Земли геологи словно «сканируют» планету и обнаруживают все больше интересных особенностей ее внутреннего строения. Недавно очередное такое исследование заставило ученых особенно внимательно рассмотреть то, что скрывается под Тихоокеанской литосферной плитой.

Позавчера, 18:02
Юлия Трепалина

Исследования ранее показывали, что курение может снижать успешность людей на рынке труда из-за негативного влияния на здоровье и производительность. Группа финских специалистов в области бизнеса и экономики, психологии и здравоохранения недавно подробнее изучила эту связь и привела показатели, иллюстрирующие последствия вредной привычки для зарплаты.

13 января
Юлия Трепалина

Многие предпочитают вступать в романтические отношения с людьми примерно своего возраста, но есть и пары с существенной возрастной разницей. Международная группа ученых недавно на крупной выборке людей проследила за изменениями возраста партнеров на старте отношений в разные годы жизни.

27.12.2024
ФизТех

Ученые из Троицкого института инновационных и термоядерных исследований, МФТИ и МЭИ совершили значительный прорыв в области защиты материалов от экстремальных тепловых нагрузок, характерных для условий управляемого термоядерного синтеза.

26.12.2024
Полина Меньшова

Согласно популярному утверждению, человеческая мысль — едва ли не самое быстрое, что существует в природе. Даже свет многие считают менее быстрым, поскольку он распространяется со скоростью 300 тысяч километров в секунду, а мысль — «мгновенно». Однако новое исследование опровергло бытовую логику. Ученые из Калтеха измерили скорость, с которой человек обрабатывает информацию, и обнаружили, что основные когнитивные процессы во много раз медленнее не только распространения света, но и низкоскоростного интернета.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно