Согласно внутренним документам компании IBM, многие врачи остались недовольны первыми результатами тестирования системы Watson for Oncology. Специалисты выявили «многочисленные примеры небезопасных и некорректных рекомендаций по лечению», составленных суперкомпьютером IBM Watson. И врачи, и разработчики считают, что подобные ошибки неизбежны при создании таких масштабных проектов, как Watson for Oncology. О реакции экспертов сообщил сайт издания Stat News.
Сегодня искусственный интеллект (ИИ) широко используется в медицине для обработки данных о здоровье пациентов. Современные ИИ эффективны в диагностике заболеваний: недавно алгоритм на основе сверточных нейросетей научили успешно выявлять меланому по фотографиям. Многие исследователи работают над технологиями, которые позволят применять нейросети для создания рекомендаций по лечению, но массово такие методики пока не используются.
С системой Watson for Oncology работали 230 больниц и медицинских центров по всему миру. Алгоритм анализирует данные пациента, в том числе записи лечащих врачей, семейную историю онкологических заболеваний и результаты анализов, и сопоставляет их с базой данных доступных исследований. ИИ не заменяет врача-специалиста, но может предоставить дополнительное «мнение», если несколько экспертов придерживаются разных точек зрения.
Документы IBM приводят несколько примеров неверных решений суперкомпьютера. Например, в случае 65-летнего пациента с раком легких и сильными кровотечениями Watson предложил применить комбинацию химиотерапии и бевацизумаба — препарата на основе моноклональных антител. При этом известно, что бевацизумаб может усиливать кровотечения. Рекомендации ИИ не применялись на практике, поскольку алгоритмы находятся на стадии тестов.
По словам экспертов, ошибки суперкомпьютера могут быть связаны с тем, что изначально систему тестировали не на реальных данных пациентов, а на искусственно составленных сценариях. Искажения, накопившиеся при анализе гипотетических данных, могли привести к неверным рекомендациям ИИ. Представители IBM подчеркивают, что алгоритмы Watson постоянно дорабатываются с учетом отзывов врачей, данных новых исследований и обновлений официальных медицинских рекомендаций. Критика онкологов позволит сделать систему эффективнее и безопаснее.
Ранее искусственный интеллект помог исследователям в поисках новых экзопланет.
Наука
Наталья Пелезнева
