В медицинских рекомендациях искусственного интеллекта IBM нашли ошибки — Naked Science
4 минуты
Редакция

В медицинских рекомендациях искусственного интеллекта IBM нашли ошибки

Эксперты-онкологи заявили, что в ходе тестов искусственный интеллект IBM Watson нередко ошибался, составляя рекомендации по лечению для гипотетических «пациентов».

ibm-watson-computer
©Wikipedia

Согласно внутренним документам компании IBM, многие врачи остались недовольны первыми результатами тестирования системы Watson for Oncology. Специалисты выявили «многочисленные примеры небезопасных и некорректных рекомендаций по лечению», составленных суперкомпьютером IBM Watson. И врачи, и разработчики считают, что подобные ошибки неизбежны при создании таких масштабных проектов, как Watson for Oncology. О реакции экспертов сообщил сайт издания Stat News.

 

Сегодня искусственный интеллект (ИИ) широко используется в медицине для обработки данных о здоровье пациентов. Современные ИИ эффективны в диагностике заболеваний: недавно алгоритм на основе сверточных нейросетей научили успешно выявлять меланому по фотографиям. Многие исследователи работают над технологиями, которые позволят применять нейросети для создания рекомендаций по лечению, но массово такие методики пока не используются.

 

С системой Watson for Oncology работали 230 больниц и медицинских центров по всему миру. Алгоритм анализирует данные пациента, в том числе записи лечащих врачей, семейную историю онкологических заболеваний и результаты анализов, и сопоставляет их с базой данных доступных исследований. ИИ не заменяет врача-специалиста, но может предоставить дополнительное «мнение», если несколько экспертов придерживаются разных точек зрения.

 

Документы IBM приводят несколько примеров неверных решений суперкомпьютера. Например, в случае 65-летнего пациента с раком легких и сильными кровотечениями Watson предложил применить комбинацию химиотерапии и бевацизумаба — препарата на основе моноклональных антител. При этом известно, что бевацизумаб может усиливать кровотечения. Рекомендации ИИ не применялись на практике, поскольку алгоритмы находятся на стадии тестов.

 

По словам экспертов, ошибки суперкомпьютера могут быть связаны с тем, что изначально систему тестировали не на реальных данных пациентов, а на искусственно составленных сценариях. Искажения, накопившиеся при анализе гипотетических данных, могли привести к неверным рекомендациям ИИ. Представители IBM подчеркивают, что алгоритмы Watson постоянно дорабатываются с учетом отзывов врачей, данных новых исследований и обновлений официальных медицинских рекомендаций. Критика онкологов позволит сделать систему эффективнее и безопаснее.

 

Ранее искусственный интеллект помог исследователям в поисках новых экзопланет.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Вчера, 10:00
42 минуты
Редакция

Все знают, что нефть — это углеводороды. Но из чего она образовалась? Правда ли, что из динозавров? И сколько миллионов лет нефти, из которой сегодня делают бензин и сотни других важных окружающих нас вещей? Разбираемся, какие запасы нефти залегают в России и сколько их осталось, почему их до сих пор не добыли, а также, как это связано с существами, которые жили миллионы лет назад.

4 часа назад
55 минут
Александр Березин

Сочетание сильного мороза и снега — а затем резкого потепления — в метеобюро Москвы объяснили просто: «Наступила другая климатическая эпоха». На Западе вовсе поговаривают про остановку Гольфстрима — то есть намекают, что холодные аномалии зимой в Европе могут стать нормой. Увы, в случившемся в мире этой зимой — что в Москве, что в Техасе — нет абсолютно ничего нового. «Аномальные» холода здесь и там повторяются год за годом. Это следствие одного экзотического, но регулярного события в южных морях. Впрочем, новая климатическая эпоха нас все-таки ждет. И американские ученые считают, что именно из-за нее подушевой ВВП в России вырастет вчетверо. Разбираемся, правы ли они.

Вчера, 22:13
6 минут
Мария Азарова

Опрос среди совершеннолетних жителей разных российских регионов показал, что 64 процента из них не верят в естественное происхождение коронавируса — главным образом эта категория представлена людьми старше 40 лет.

26 февраля
10 минут
Василий Парфенов

Даже при разработке точнейших научных инструментов случаются разные технические сюрпризы — и хорошо, если приятные. К счастью, именно так вышло на этот раз. Ученые получили очередную порцию данных с космического аппарата Parker Solar Probe и здорово удивились. На сделанном в оптическом диапазоне снимке ночной стороны Венеры видны детали поверхности, обычно скрытые плотными облаками. Теперь предстоит решить загадку: либо камера оказалась чувствительна к инфракрасному диапазону излучения, либо случайно обнаружилось «окно» для наблюдений через атмосферу этой планеты.

24 февраля
10 минут
Мария Азарова

Ученые провели анализ по 353 профессиям и оценили, насколько различия в статусе потребления алкоголя можно объяснить родом занятий.

26 февраля
8 минут
Мария Азарова

Математическое моделирование позволило подсчитать, что большинство случаев тяжелого течения коронавирусного заболевания и госпитализаций по этой причине в США оказались связаны с одним из четырех кардиометаболических нарушений, а главным образом — с ожирением.

26 февраля
10 минут
Василий Парфенов

Даже при разработке точнейших научных инструментов случаются разные технические сюрпризы — и хорошо, если приятные. К счастью, именно так вышло на этот раз. Ученые получили очередную порцию данных с космического аппарата Parker Solar Probe и здорово удивились. На сделанном в оптическом диапазоне снимке ночной стороны Венеры видны детали поверхности, обычно скрытые плотными облаками. Теперь предстоит решить загадку: либо камера оказалась чувствительна к инфракрасному диапазону излучения, либо случайно обнаружилось «окно» для наблюдений через атмосферу этой планеты.

21 февраля
20 минут
Василий Парфенов

Кого и что только ни успели уже обвинить в технологической катастрофе, которая произошла на этой неделе в США. Но эмоции плавно оседают, и начинают появляться первые результаты разбирательства. А они порой вызывают искреннее недоумение, честно говоря.

15 февраля
9 минут
Василий Парфенов

Новость, которую странно публиковать на серьезном научно-популярном портале, но от реальности не убежишь. Уфологи всего мира могут радоваться: американские военные официально признали, что изучали места крушения НЛО и в их распоряжении есть некие аномальные объекты, свойства которых выходят за рамки известных науке материалов.

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: