В алгоритме для оценки здоровья нашли «расовые предрассудки» — Naked Science
7 минут
София Жаботинская

В алгоритме для оценки здоровья нашли «расовые предрассудки»

Программное обеспечение, которое должно быть беспристрастным, унаследовало вредные человеческие стереотипы.

Кадр из сериала «Доктор Хаус»
Кадр из сериала «Доктор Хаус»

Ученые из Калифорнийского университета в Беркли совместно с коллегами из Чикаго выяснили, что компьютерные алгоритмы, созданные для исключения предвзятости при оказании медицинской помощи, вместо этого демонстрируют расовые предпочтения. Свою работу авторы опубликовали в Science.

Исследователи проанализировали, как алгоритмы отбирают пациентов для попадания в госпрограмму медицинской поддержки. Предполагается, что это программное обеспечение поможет выделить пациентов с высоким риском здоровью, не руководствуясь человеческими стереотипами, предубеждениями, предрассудками или склонностями. Важно, чтобы нуждающийся в лечении пациент не получал по решению сотрудника отказ из-за «неправильного» пола, расы, образования, религии или образа жизни.

Однако, как показывают работы последнего времени и, в частности, исследование авторов, алгоритмы активно набирают в качестве критериев отбора предубеждения, свойственные людям. Почему так получается? Иногда проблема в подходе к обучению, если речь идет о нейросетях. В случае же, описанном в статье, проблема была в недостатке переменных, которыми оперировала программа.

Ученые рассмотрели данные 43 539 белых пациентов и 6079 чернокожих, которых алгоритм должен был либо поместить в группу людей, которым требуется помощь, либо отказать в ней. Задача перед программой стояла такая: выбрать тех пациентов, кому можно помочь с наибольшей эффективностью соотношения «риск — результат — затраты». Выбор, сделанный компьютером, сравнили с объективными показаниями (учитывающими биомаркеры и жизненные показатели), сделанными вручную без учета расы пациента. Оказалось, при отборе программа показала расовую предвзятость, предпочитая здоровых белых американцев и обходя чернокожих пациентов.

График А (слева) показывает, насколько больше количество хронических болезней у чернокожих пациентов (фиолетовый цвет на графике), чем у белых пациентов (морковный цвет). График B показывает, как предсказания «предвзятого» алгоритма (непрерывная линия) отличаются от предсказаний исправленной программы (штриховая линия) / © Obermeyer, Powers, Vogeli, Mullainathan, Science, 2019.

Исследователи выяснили, что перекос возник из-за ошибки при построении алгоритма отбора. Чернокожее население при современном состоянии здравоохранения в США хуже обеспечивалось медпомощью и, как следствие, в среднем имеет худшее состояние здоровья. В результате, учитывая сопутствующие заболевания и зачастую большую запущенность основных недугов, раса в алгоритмах программы становится сцепленной с худшими прогнозами и большей стоимостью лечения.

«Сами по себе алгоритмы не являются ни хорошими, ни плохими. Это просто вопрос заботы о том, как они построены. В этом случае проблема в высшей степени решаема, и по крайней мере один производитель [программного обеспечения], кажется, работает над исправлением. Мы призываем других сделать это», — поясняет автор работы профессор Сендхил Малленатан. Внеся в алгоритмы больше переменных — например, учитывающих снижение последующих затрат на лечение за счет небольших расходов на профилактику, — ученые получили нормальное расовое распределение пациентов, прошедших отбор.

По словам исследователей, это показывает, что важно учитывать все факторы при принятии решений, чтобы не получать нежизнеспособные методы оценки. Необходимы регулярные проверки, которые помогут устранять ошибки в вычислениях. «Для алгоритмов, как и для медицины, мы бы предпочли предотвращать проблемы, а не лечить их», — шутит ведущий автор работы Зиад Обермейер.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Вчера, 19:28
9 минут
Мария Азарова

На фоне новостей о введении обязательной вакцинации для некоторых категорий жителей российских регионов встает логичный вопрос, а какой вакциной все же прививаться. И если о разработанном в Центре Гамалеи «Спутнике-V» в последние месяцы мы слышали многое, то по второму российскому препарату — «ЭпиВакКороне» — в международном научном журнале не публиковали и окончательных результатов исследований. Сегодня директор центра «Вектор» рассказал некоторые подробности о своей вакцине.

Позавчера, 16:11
3 минуты
Ольга Иванова

Специалисты из США провели исследование и узнали, что навязчивая мелодия, которая «застревает» в голове, выполняет важную функцию для мозга.

Вчера, 12:51
25 минут
Александр Речкин

Первые попытки изучения Марса землянами датируются второй половиной XX века, но они далеко не всегда были успешными. Осуществить мягкую посадку на Красную планету очень и очень непросто: последний провал в этой области произошел уже в XXI веке. Тем не менее земным ученым удалось многое разузнать. А насколько хороши ваши знания в этой сфере?

12 июня
58 минут
Николай Цыгикало

Грохот уходящих в космос ракет, гигантские столбы огня, колоссальная сила, превосходящая силу тяжести. Форсажный рев боевых самолетов. Самое громкое и мощное силовое устройство человека. Все это — канал особой формы и особых свойств, радикально изменивший человечество. В чем его суть и как происходит трудное рождение сверхзвука — читайте в нашем материале.

15 июня
4 минуты
Сергей Васильев

Галактические нити крупномасштабной структуры Вселенной тянутся на сотни миллионов световых лет — и, как оказалось, вращаются, увлекая в движение все свои галактики.

12 июня
9 минут
Василий Парфенов

Российские эпидемиологи считают, что в столице могла появиться своя разновидность вируса SARS-CoV-2. Кроме того, по мнению специалистов Центра имени Гамалеи, сейчас важным является индийский штамм коронавируса. По отношению к нему активность сывороток у вакцинированных и переболевших Covid-19 снижена в 2-3 раза.

24 мая
23 минуты
Ольга Иванова

«Сексуальную революцию совершили задние сиденья автомобилей», – заявил в свое время американский общественный деятель Джерри Рубин. И ошибся. Раскрепощение нравов происходило задолго до появления машин, причем много раз. Оно напоминает движение маятника. Как и почему вершились «секшал революшнс» и стоим ли мы на пороге нового витка сексуальности или же нас ждет ужесточение морали? Об этом – в нашем материале.

9 июня
4 минуты
Ольга Иванова

Международная команда исследователей изучила геологию и условия существования самого большого моря в истории планеты — Паратетиса.

27 мая
51 минута
Александр Березин

Хотя в прессе много пишут об исключительно редких «побочках» от вакцин, практика показывает, что бояться надо совсем другого. Самым страшным врагом привитого остается... коронавирус. Даже после вакцин Pfizer или Moderna от него иногда умирают — и подобных случаев уже сотни. Разумеется, среди непривитых таких на порядки больше, но погибшим и членам их семей от этого не легче. Еще хуже то, что две из трех российских вакцин, похоже, защищают от ковида намного слабее Pfizer и Moderna. Это довольно странно с учетом того, что третий российский препарат в этом плане не уступает западным аналогам. Почему российские власти финансируют миллионные тиражи слабой вакцины, имея в распоряжении вполне полноценную?

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: