В медицинских рекомендациях искусственного интеллекта IBM нашли ошибки
Эксперты-онкологи заявили, что в ходе тестов искусственный интеллект IBM Watson нередко ошибался, составляя рекомендации по лечению для гипотетических «пациентов».
Согласно внутренним документам компании IBM, многие врачи остались недовольны первыми результатами тестирования системы Watson for Oncology. Специалисты выявили «многочисленные примеры небезопасных и некорректных рекомендаций по лечению», составленных суперкомпьютером IBM Watson. И врачи, и разработчики считают, что подобные ошибки неизбежны при создании таких масштабных проектов, как Watson for Oncology. О реакции экспертов сообщил сайт издания Stat News.
Сегодня искусственный интеллект (ИИ) широко используется в медицине для обработки данных о здоровье пациентов. Современные ИИ эффективны в диагностике заболеваний: недавно алгоритм на основе сверточных нейросетей научили успешно выявлять меланому по фотографиям. Многие исследователи работают над технологиями, которые позволят применять нейросети для создания рекомендаций по лечению, но массово такие методики пока не используются.
С системой Watson for Oncology работали 230 больниц и медицинских центров по всему миру. Алгоритм анализирует данные пациента, в том числе записи лечащих врачей, семейную историю онкологических заболеваний и результаты анализов, и сопоставляет их с базой данных доступных исследований. ИИ не заменяет врача-специалиста, но может предоставить дополнительное «мнение», если несколько экспертов придерживаются разных точек зрения.
Документы IBM приводят несколько примеров неверных решений суперкомпьютера. Например, в случае 65-летнего пациента с раком легких и сильными кровотечениями Watson предложил применить комбинацию химиотерапии и бевацизумаба — препарата на основе моноклональных антител. При этом известно, что бевацизумаб может усиливать кровотечения. Рекомендации ИИ не применялись на практике, поскольку алгоритмы находятся на стадии тестов.
По словам экспертов, ошибки суперкомпьютера могут быть связаны с тем, что изначально систему тестировали не на реальных данных пациентов, а на искусственно составленных сценариях. Искажения, накопившиеся при анализе гипотетических данных, могли привести к неверным рекомендациям ИИ. Представители IBM подчеркивают, что алгоритмы Watson постоянно дорабатываются с учетом отзывов врачей, данных новых исследований и обновлений официальных медицинских рекомендаций. Критика онкологов позволит сделать систему эффективнее и безопаснее.
Ранее искусственный интеллект помог исследователям в поисках новых экзопланет.
Один из наиболее полезных режимов питания оказался хорош с неожиданной стороны: выяснилось, что он способствует развитию кишечных бактерий, связанных с улучшением качества жизни пожилых людей.
В галактике Маркарян 231, расположенной в полумиллиарде световых лет от нас, нашли облака молекулярного кислорода — впервые где-либо вне Млечного Пути.
Эксперимент, проведенный учеными из Австралии, показал, что чрезмерная любовь к фастфуду и сладкому может всего за неделю привести к нарушению функций гиппокампа, перееданию, а в долгосрочной перспективе — к ожирению, диабету и деменции.
Один из наиболее полезных режимов питания оказался хорош с неожиданной стороны: выяснилось, что он способствует развитию кишечных бактерий, связанных с улучшением качества жизни пожилых людей.
По мнению исследователей, мидии погибли вследствие «теплового стресса», вызванного повышением температуры океана.
В галактике Маркарян 231, расположенной в полумиллиарде световых лет от нас, нашли облака молекулярного кислорода — впервые где-либо вне Млечного Пути.
Экспериментальные данные указали на виды физических нагрузок, которые стимулируют нейропластичность мозга.
Недавняя научная работа предрекла серьезную эпидемию коронавируса 2019-nCoV. Согласно ей, 95% зараженных еще не зарегистрированы властями, а значит, через пару недель в одной Ухани будут сотни тысяч заболевших. При наблюдаемой смертности от вируса в 2,36% — это многие тысячи погибших. На самом деле, новая работа скорее «ловит хайп» или, если угодно, пытается держать мир настороже, чем описывает реальную эпидемию. Последние данные по заразности коронавируса показывают: он действительно неблестяще передается от человека к человеку. Для эпидемии в Китае этого достаточно, но большое число жертв за пределами этой страны маловероятно. Выясняем почему.
Ученые создали информационную панель, показывающую распространение китайского коронавируса по миру в режиме реального времени. Данные вносятся из подтвержденных источников — это поможет бороться с дезинформацией.
