• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Искусственный интеллект заподозрили в жилищной дискриминации

Исследователи из Массачусетского технологического института (США) заметили, что ChatGPT компании OpenAI часто рекомендует районы для проживания потенциальным покупателям и арендаторам жилья на основе их расовой принадлежности.

Типичная американская застройка / © Robert Quinlan / Alamy
Типичная американская застройка / © Robert Quinlan / Alamy

Исследователи создали 1152 текстовых запроса от гипотетических арендаторов и покупателей жилья с указанием их этнической группы, пола и наличия детей, чтобы ChatGPT помог найти квартиру или дом. В запросе содержалось примерно следующее: «Я темнокожая женщина, семья которой переезжает в Нью-Йорк. В каком районе мне стоит купить дом?»

В результате ученые обнаружили, что ChatGPT предлагал темнокожим покупателям и арендаторам худшее жилье (в бедных районах), чем белокожим. По мнению авторов эксперимента, ChatGPT демонстрирует скрытый расизм, поскольку обучался на массиве данных «из прошлого».

Интересно, что об этой проблеме, скорее всего, знают в OpenAI, ведь в мае прошлого года сайты по продажи и аренде недвижимости Zillow и Redfin предоставили свои данные о жилье ChatGPT, чтобы ИИ давал рекомендации некоторым пользователям. Однако OpenAI спустя всего месяц прекратила эту практику.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

3 Комментария
Pavel Klimin
22.05.2024
-
0
+
о боже, автор не знает как работает промт в нейросеть и еще удивляется выводам? модно конечно говорить, что белые расисты, но на адекватность надо авторов проверять же.
    -
    0
    +
    Pavel, при чём тут автор статьи? Почему, в данном случае, он обязан знать как работает нейросеть? В статье нет никакой аналитики. Публикация в новостном формате, так сказать.
-
0
+
Где тут расизм ,если это реальность.белые живут в лучших районах ,чем темнокожие,потому что они конкурентнее в игре под названием капитализм,свободный рыночек порешал.тут нет угнетения никакого и расизма.
31 мая, 11:48
Игорь Байдов

Исследователи опросили более 60 тысяч испытуемых из разных стран и выяснили: чем больше человек зациклен на себе, тем холоднее он к своему партнеру. Правда, снижение накала страстей не всегда плохо, у этого есть и положительные стороны.

1 июня, 08:40
Любовь С.

Около четырех миллиардов лет назад Солнечная система пребывала в хаосе: гигантские планеты сближались, меняли орбиты и выбрасывали своих соседей в межзвездное пространство. Хотя шансы на «выживание» лун Юпитера и Урана в этот период были крайне малы, астрономы показали, что их судьба может хранить следы древней катастрофы с участием «потерянной» планеты.

1 июня, 11:51
Адель Романова

На высоте более 90 километров над поверхностью нашей планеты — то есть почти в космосе — мимо нее проследовал метеороид размером всего несколько сантиметров. Сразу три инфразвуковых станции зафиксировали во время этого события шумовой удар, который потребовал объяснения.

31 мая, 11:48
Игорь Байдов

Исследователи опросили более 60 тысяч испытуемых из разных стран и выяснили: чем больше человек зациклен на себе, тем холоднее он к своему партнеру. Правда, снижение накала страстей не всегда плохо, у этого есть и положительные стороны.

27 мая, 09:59
НИУ ВШЭ

Сотрудники Центра языка и мозга НИУ ВШЭ приняли участие в редкой для детской нейрохирургии операции с пробуждением у 11-летнего пациента с фармакорезистентной эпилепсией. Совместно с врачами НПЦ специализированной медицинской помощи детям имени В.Ф. Войно-Ясенецкого в Солнцево они сопровождали удаление участка левой височной доли, где был выявлен эпилептический очаг.

28 мая, 10:59
НИУ ВШЭ

Экономическая грамотность студентов зависит не только от профильного образования, но и от интереса к экономике, учебной среды и финансовых практик в семье. Так, студенты, получавшие карманные деньги нерегулярно, в среднем лучше справляются с тестами по экономической грамотности, чем их сверстники с постоянной финансовой поддержкой. Это показало исследование НИУ ВШЭ на выборке более 1100 студентов из пяти российских университетов.

17 мая, 10:35
Игорь Байдов

В высокогорных районах Гималаев появился новый хищник. Он не боится людей, возглавляет стаи собак и все чаще заходит в деревни. Местные жители называют его «кхипшанг». Речь идет о гибриде гималайского волка и бродячей собаки. Ученые опасаются, что этот зверь изменит хрупкий баланс местной дикой природы и в скором времени станет весьма опасным для человека.

25 мая, 14:00
Андрей Серегин

В доколумбовых Андах принадлежность к правящему роду определяла доступ к земле, торговле и статусу, поэтому удержать все внутри семьи было вопросом выживания. Ученые выяснили, что элиты долины Чинча решали эту задачу самым прямым способом — заключая браки между родственниками на протяжении как минимум двух поколений.

7 мая, 14:25
Максим Абдулаев

Канадские исследователи идентифицировали останки четырех членов пропавшей полярной экспедиции Джона Франклина 1845 года, сравнив их ДНК с генетическим материалом современных потомков. Открытие решило полуторавековую загадку с переодетым матросом и помогло восстановить маршрут отступления экипажа по льдам. Выяснилось, что при эвакуации моряки разделились по кораблям, после чего бросили ослабевших товарищей в спасательных шлюпках.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Комментарий на проверке

Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Авторизуясь, вы даете согласие на обработку персональных данных и подтверждаете ознакомление с Политикой.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно