В медицинских рекомендациях искусственного интеллекта IBM нашли ошибки — Naked Science
4 минуты
Редакция

В медицинских рекомендациях искусственного интеллекта IBM нашли ошибки

Эксперты-онкологи заявили, что в ходе тестов искусственный интеллект IBM Watson нередко ошибался, составляя рекомендации по лечению для гипотетических «пациентов».

ibm-watson-computer
©Wikipedia

Согласно внутренним документам компании IBM, многие врачи остались недовольны первыми результатами тестирования системы Watson for Oncology. Специалисты выявили «многочисленные примеры небезопасных и некорректных рекомендаций по лечению», составленных суперкомпьютером IBM Watson. И врачи, и разработчики считают, что подобные ошибки неизбежны при создании таких масштабных проектов, как Watson for Oncology. О реакции экспертов сообщил сайт издания Stat News.

 

Сегодня искусственный интеллект (ИИ) широко используется в медицине для обработки данных о здоровье пациентов. Современные ИИ эффективны в диагностике заболеваний: недавно алгоритм на основе сверточных нейросетей научили успешно выявлять меланому по фотографиям. Многие исследователи работают над технологиями, которые позволят применять нейросети для создания рекомендаций по лечению, но массово такие методики пока не используются.

 

С системой Watson for Oncology работали 230 больниц и медицинских центров по всему миру. Алгоритм анализирует данные пациента, в том числе записи лечащих врачей, семейную историю онкологических заболеваний и результаты анализов, и сопоставляет их с базой данных доступных исследований. ИИ не заменяет врача-специалиста, но может предоставить дополнительное «мнение», если несколько экспертов придерживаются разных точек зрения.

 

Документы IBM приводят несколько примеров неверных решений суперкомпьютера. Например, в случае 65-летнего пациента с раком легких и сильными кровотечениями Watson предложил применить комбинацию химиотерапии и бевацизумаба — препарата на основе моноклональных антител. При этом известно, что бевацизумаб может усиливать кровотечения. Рекомендации ИИ не применялись на практике, поскольку алгоритмы находятся на стадии тестов.

 

По словам экспертов, ошибки суперкомпьютера могут быть связаны с тем, что изначально систему тестировали не на реальных данных пациентов, а на искусственно составленных сценариях. Искажения, накопившиеся при анализе гипотетических данных, могли привести к неверным рекомендациям ИИ. Представители IBM подчеркивают, что алгоритмы Watson постоянно дорабатываются с учетом отзывов врачей, данных новых исследований и обновлений официальных медицинских рекомендаций. Критика онкологов позволит сделать систему эффективнее и безопаснее.

 

Ранее искусственный интеллект помог исследователям в поисках новых экзопланет.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
10 часов назад
13 минут
Александр Речкин

В учебниках истории XX века, на сотнях плакатах и в десятках кинофильмах о Второй мировой войне мы видели знаменитые танки, «катюши» и бороздящие небеса Ил-2. Давайте проверим, сможете ли вы отличить советскую военную технику от машин союзников и стран «оси».

8 часов назад
37 минут
Александр Березин

Филипп Мандей основал целое направление исследований: он первым установил, что закисление океанов — последствие глобального потепления — угрожает обонянию и умению ориентироваться у морских рыб. Само собой, это создает угрозу их вымирания. Долго оставалось загадкой только одно: как существующие виды рыб перенесли серьезное закисление океана при прошлых изменениях климата. Теперь все проясняется: похоже, Мандей обнаружил эффект, которого никогда не было. Интересно, что вместе с ним его наблюдали еще 179 ученых — и теперь все они оказались в центре чудовищного скандала. Попробуем разобраться в деталях.

Позавчера, 15:24
5 минут
Илья Ведмеденко

Военно-морской флот получил многоцелевую атомную подводную лодку К-561 «Казань». Это один из самых совершенных кораблей такого типа в мире.

2 мая
62 минуты
Николай Цыгикало

Знаменитый ракетный комплекс «Искандер» стал одним из символов российской военной мощи. Он не покидает центра внимания экспертов и средств массовой информации, а его тактико-технические характеристики приводятся в каждом информационном ресурсе военной тематики. Но цифры цифрами, а что за ними? Посмотрим на работу «Искандера» с разных сторон, чтобы разобраться в принципах действия и логике конструктивных решений. Тогда глубина понимания позволит пройти дальше одних лишь цифр ТТХ, и при всей важности они окажутся не на первом месте. Наш материал — самый полный рассказ о работе «Искандера» в открытом доступе.

6 мая
17 минут
Александр Березин

SpaceX после затяжной серии аварий нормально посадила прототип Starship SN15. Огромная стальная ракета поднялась в воздух на десять километров, выполнила там сложные кульбиты, которые не могла сделать ни одна ракета ранее, а затем плавно опустилась вниз. Одни говорят, что это революция, другие — что «СССР так умел полвека назад». Кто прав и что будет дальше? Попробуем разобраться.

4 мая
4 минуты
Ольга Иванова

Ученые из Финляндии определили причины того, почему «собака бывает кусачей» по отношению к человеку и другим животным.

23 апреля
11 минут
Василий Парфенов

Действующий глава NASA в рамках общения с прессой ответил на ряд вопросов, касающихся недавних заявлений российских политиков и главы «Роскосмоса» о скором отказе от собственного сегмента МКС. Администратор заверил всех, что агентство находится в хороших отношениях с Россией, а также поделился информацией о согласовании обмена местами для астронавтов и космонавтов в пилотируемых миссиях двух стран.

16 апреля
4 минуты
Илья Ведмеденко

Исследователи установили, что обнаруженный в Баренцевом море объект — погибшая советская субмарина типа «Крейсерская». Это одна из самых больших подлодок СССР периода Второй мировой.

25 апреля
17 минут
Александр Березин

На этой неделе СМИ выдали новость, от которой можно впасть в шок: «Ранее из России уезжало около 14 тысяч исследователей [в год], теперь — 70 тысяч». Мы внимательно разобрались в ситуации и вынуждены отметить, что ничего подобного не было и нет. В реальности речь вовсе не об ученых и даже не о высококвалифицированных специалистах. Проблемы с учеными в России есть. Но в этом случае речь идет не о них, а о том, что отдельные бывшие комсомольские вожаки, удачно устроившиеся в РАН, перепутали утечку мозгов из России с отъездом из нее гастарбайтеров. Разбираемся, как это у них получилось.

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: