27.07.2018
Редакция Naked Science

В медицинских рекомендациях искусственного интеллекта IBM нашли ошибки

Эксперты-онкологи заявили, что в ходе тестов искусственный интеллект IBM Watson нередко ошибался, составляя рекомендации по лечению для гипотетических «пациентов».

ibm-watson-computer
©Wikipedia

Согласно внутренним документам компании IBM, многие врачи остались недовольны первыми результатами тестирования системы Watson for Oncology. Специалисты выявили «многочисленные примеры небезопасных и некорректных рекомендаций по лечению», составленных суперкомпьютером IBM Watson. И врачи, и разработчики считают, что подобные ошибки неизбежны при создании таких масштабных проектов, как Watson for Oncology. О реакции экспертов сообщил сайт издания Stat News.

 

Сегодня искусственный интеллект (ИИ) широко используется в медицине для обработки данных о здоровье пациентов. Современные ИИ эффективны в диагностике заболеваний: недавно алгоритм на основе сверточных нейросетей научили успешно выявлять меланому по фотографиям. Многие исследователи работают над технологиями, которые позволят применять нейросети для создания рекомендаций по лечению, но массово такие методики пока не используются.

 

С системой Watson for Oncology работали 230 больниц и медицинских центров по всему миру. Алгоритм анализирует данные пациента, в том числе записи лечащих врачей, семейную историю онкологических заболеваний и результаты анализов, и сопоставляет их с базой данных доступных исследований. ИИ не заменяет врача-специалиста, но может предоставить дополнительное «мнение», если несколько экспертов придерживаются разных точек зрения.

 

Документы IBM приводят несколько примеров неверных решений суперкомпьютера. Например, в случае 65-летнего пациента с раком легких и сильными кровотечениями Watson предложил применить комбинацию химиотерапии и бевацизумаба — препарата на основе моноклональных антител. При этом известно, что бевацизумаб может усиливать кровотечения. Рекомендации ИИ не применялись на практике, поскольку алгоритмы находятся на стадии тестов.

 

По словам экспертов, ошибки суперкомпьютера могут быть связаны с тем, что изначально систему тестировали не на реальных данных пациентов, а на искусственно составленных сценариях. Искажения, накопившиеся при анализе гипотетических данных, могли привести к неверным рекомендациям ИИ. Представители IBM подчеркивают, что алгоритмы Watson постоянно дорабатываются с учетом отзывов врачей, данных новых исследований и обновлений официальных медицинских рекомендаций. Критика онкологов позволит сделать систему эффективнее и безопаснее.

 

Ранее искусственный интеллект помог исследователям в поисках новых экзопланет.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Позавчера, 12:32
Алиса Гаджиева

Археологи обнаружили доказательства того, что доисторическое строение возрастом в 11 тысяч лет использовали для церемониальных действий, а потом преднамеренно засыпали землей.

Позавчера, 13:37
Ольга Иванова

Американские исследователи пришли к выводу, что человеческий мозг уменьшился из-за процессов глобализации, кооперации и разделения труда.

Позавчера, 13:46
Александр Березин

Повелители тундростепей Евразийского континента, оказывается, вовсе не вымерли с концом ледникового периода. Вопреки тому, что считалось ранее, они выжили — как минимум на Таймыре и как минимум до 1900 года до нашей эры. А это на много веков позже постройки пирамиды Хеопса. Получается, человек не привел мамонта к вымиранию? Или, напротив, нашел затерянные на Таймыре остатки вида и уничтожил их совсем недавно? Это сложный вопрос, от которого зависит ответ на другой: могут ли слоны заселить Север России и в наши дни?

19 октября
Илья Ведмеденко

В КНР испытали монолитный твердотопливный ракетный двигатель, имеющий самую большую тягу в мире. Разработка изделия важна для создания ракет тяжелого класса.

Позавчера, 12:32
Алиса Гаджиева

Археологи обнаружили доказательства того, что доисторическое строение возрастом в 11 тысяч лет использовали для церемониальных действий, а потом преднамеренно засыпали землей.

Позавчера, 13:37
Ольга Иванова

Американские исследователи пришли к выводу, что человеческий мозг уменьшился из-за процессов глобализации, кооперации и разделения труда.

13 октября
Мария Азарова

Анализ образцов крови, взятых у российских космонавтов до и после их полета на МКС, показал, что длительное пребывание в космосе может провоцировать повреждение мозга.

12 октября
Алиса Гаджиева

Две тысячи лет назад многие сооружения строили лучше, чем сегодня.

27 сентября
Мария Азарова

Новое исследование генетиков из Германии и Италии, похоже, помогло найти ответ на вопрос, который занимал ученых свыше двух тысяч лет: откуда взялись этруски?

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: