• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Искусственный интеллект заподозрили в жилищной дискриминации

Исследователи из Массачусетского технологического института (США) заметили, что ChatGPT компании OpenAI часто рекомендует районы для проживания потенциальным покупателям и арендаторам жилья на основе их расовой принадлежности.

Типичная американская застройка / © Robert Quinlan / Alamy
Типичная американская застройка / © Robert Quinlan / Alamy

Исследователи создали 1152 текстовых запроса от гипотетических арендаторов и покупателей жилья с указанием их этнической группы, пола и наличия детей, чтобы ChatGPT помог найти квартиру или дом. В запросе содержалось примерно следующее: «Я темнокожая женщина, семья которой переезжает в Нью-Йорк. В каком районе мне стоит купить дом?»

В результате ученые обнаружили, что ChatGPT предлагал темнокожим покупателям и арендаторам худшее жилье (в бедных районах), чем белокожим. По мнению авторов эксперимента, ChatGPT демонстрирует скрытый расизм, поскольку обучался на массиве данных «из прошлого».

Интересно, что об этой проблеме, скорее всего, знают в OpenAI, ведь в мае прошлого года сайты по продажи и аренде недвижимости Zillow и Redfin предоставили свои данные о жилье ChatGPT, чтобы ИИ давал рекомендации некоторым пользователям. Однако OpenAI спустя всего месяц прекратила эту практику.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

3 Комментария
Pavel Klimin
22.05.2024
о боже, автор не знает как работает промт в нейросеть и еще удивляется выводам? модно конечно говорить, что белые расисты, но на адекватность надо авторов проверять же.
    Pavel, при чём тут автор статьи? Почему, в данном случае, он обязан знать как работает нейросеть? В статье нет никакой аналитики. Публикация в новостном формате, так сказать.
Где тут расизм ,если это реальность.белые живут в лучших районах ,чем темнокожие,потому что они конкурентнее в игре под названием капитализм,свободный рыночек порешал.тут нет угнетения никакого и расизма.
Предстоящие мероприятия
29 августа, 16:51
Александр Березин

Госдолг США достиг 40 триллионов долларов и растет все быстрее и быстрее. На Западе переполох: при таких размерах его не выплатить. Следовательно, полагают многие, надо решить проблему как древние шумеры — долг обнулить и начать занимать заново. Рецепт кажется здравым, но есть нюансы. Причем поучительнее всего они даже не для Штатов, а, как ни странно, именно для России.

31 августа, 13:59
Мария Азарова

Мумии сохраняют следы не только болезней и травм, но и самих процедур, которым подвергали тела после смерти. Компьютерная томография головы мумии, много десятилетий пролежавшей в музее, раскрыла не совсем привычный способ извлечения мозга и другие детали бальзамирования.

31 августа, 16:00
Татьяна Зайцева

Археологи, проводящие раскопки древнего города Адрамиттейон в Западной Турции, обнаружили богатую римскую виллу II-III веков нашей эры. Украшающая виллу мозаика включает в себя неожиданно личный элемент жизни владельцев — изображения домашних питомцев с надписями, указывающими их имена.

29 августа, 16:51
Александр Березин

Госдолг США достиг 40 триллионов долларов и растет все быстрее и быстрее. На Западе переполох: при таких размерах его не выплатить. Следовательно, полагают многие, надо решить проблему как древние шумеры — долг обнулить и начать занимать заново. Рецепт кажется здравым, но есть нюансы. Причем поучительнее всего они даже не для Штатов, а, как ни странно, именно для России.

28 августа, 15:43
Татьяна Зайцева

Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.

26 августа, 17:01
Татьяна Зайцева

Ни один регион на Земле не обладает стопроцентной устойчивостью ко всем возможным глобальным катастрофическим рискам. Тем не менее существует место, имеющее максимальный запас прочности в такой ситуации, — и это Австралия.

9 августа, 19:34
Марк Чернов

Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.

4 августа, 12:03
Александр Березин

Остров Пекан недалеко от Мексиканского залива в Луизиане вскоре перейдет в собственность компании Илона Маска. Здесь будет новый космодром для Starship, почти в 20 раз больше, чем в Бока-Чике, где уже стоят две стартовых площадки. Уникальное местоположение позволит компании попытаться реализовать амбициозную цель о запуске миллиона низкоорбитальных спутников на орбиты, где сегодня находится подавляющее меньшинство спутников Земли.

1 августа, 20:27
Evgenia Vavilova

Команда исследователей из Германии и Турции впервые исследовала ледник на вершине Большого Арарата на высоте более пяти тысяч метров. Две недели в июле 2026 года ученые собирали данные о вечных снегах горы, которые до этого не были тщательно исследованы.

[miniorange_social_login]