Уведомления
Авторизуйтесь или зарегистрируйтесь, чтобы оценивать материалы, создавать записи и писать комментарии.
Авторизуясь, вы соглашаетесь с правилами пользования сайтом и даете согласие на обработку персональных данных.
Российские ученые научили нейросеть сомневаться
Исследователи Центра искусственного интеллекта Сколтеха совместно с коллегами из Института проблем передачи информации РАН разработали метод, который позволяет нейросетям более точно оценивать собственную «уверенность» в прогнозах. Метод использует специальный набор тренировочных данных (Confidence-Aware Training Data) и направлен на повышение надежности нейросетевых моделей в задачах с высоким уровнем риска — например, в медицине или промышленности.
Результаты представлены на престижной Международной конференции по использованию компьютерного зрения (WACV-2025) и в сборнике конференции.
Современные нейросетевые модели нередко демонстрируют высокую точность, однако в ряде случаев проявляют избыточную уверенность в своих предсказаниях — даже в ситуациях, когда данные неоднозначные или содержат шум. Это может быть критичным для таких сфер, как медицина, промышленная безопасность или автономные системы. Разработанный подход позволяет повысить надежность моделей за счет более точного контроля над их поведением в сложных и пограничных сценариях.
Новый метод помогает нейросети обнаруживать случаи, в которых ее прогноз может требовать дополнительной проверки со стороны человека. Исследователи протестировали технологию на реальных данных, в том числе в задачах медицинской диагностики по типированию крови, и получили значительный рост точности оценки неопределенности в задачах классификации и сегментации.
В отличие от классических подходов, где в обучающих выборках используются только бинарные метки (0 или 1), в новой методике дополнительно вводятся «мягкие» метки — значения в диапазоне от 0 до 1, отражающие степень уверенности экспертов в правильности разметки данных. Это помогает модели формировать более осторожную стратегию принятия решений и эффективнее реагировать на ситуации с высокой степенью неопределенности.
Кроме того, метод позволяет учитывать два типа неопределенности: эпистемическую, связанную с недостаточностью и неполнотой обучающих данных, и алеаторную — возникающую из-за природного шума или неоднозначности в самих данных.
«Наш метод помогает нейросети понять, где стоит проявить осторожность. На практике это позволяет снизить риск излишней уверенности модели при обработке сложных или пограничных случаев. Мы протестировали метод на реальных данных и подтвердили его эффективность в оценке неопределенности», — рассказал Александр Югай, младший инженер-исследователь Центра искусственного интеллекта Сколтеха.
Новая технология может быть применена в ответственных областях, где важна надежность искусственного интеллекта, включая медицинские диагностические системы, промышленную автоматизацию, системы технического контроля и автономные решения.
«Мы сфокусировались на том, чтобы научить модель не только принимать решения, но и выделять случаи, в которых риск ошибки особенно высок. Благодаря использованию разметки уверенности, наше решение существенно превосходит существующие. Такая оценка „осторожности“ критически важна для принятия решений в медицине и других областях с высокой стоимостью ошибки», — комментирует Алексей Зайцев, доцент Сколтеха, заведующий Лабораторией прикладных исследований «Сколтех-Сбербанк».
Telegram 
Дзен 
VK За последние 30 лет размер трески, обитающей в Балтийском море, значительно уменьшился. Если раньше рыбаки вылавливали из воды особей размером с маленького ребенка, то теперь добытая рыба легко помещается в ладонях. Авторы нового исследования винят в этом человека, который заставил один из видов эволюционировать в «карликов».
Снимки с фотоловушек давно стали культурным явлением. Особенно забавными выглядят медведи. Мы с удовольствием смотрим на зверей, попавших в объектив камер в национальных парках: тигр украл фотоловушку, муравьед проехал верхом на муравьеде и так далее. Но не все животные настолько обаятельные. Ученые из США решили развить эмпатию к гремучим змеям, которых многие боятся. Для этого специалисты запустили трансляцию из «мегалогова», где рептилии отдыхают и рожают потомство.
До сих пор ученые считали, что величайшую из женщин — фараонов Египта после смерти подвергли «культурной отмене»: ее статуи разбивали, имя вычеркивали из надписей, обелиски засыпали песком. Цзюнь И Вон из Университета Торонто (Канада) подверг сомнению это утверждение, но и в его гипотезе остаются вопросы.
Группа российских ученых из Института прикладной математики имени М. В. Келдыша РАН и МФТИ провела детальное численное исследование источников шума, генерируемых крылом прототипа сверхзвукового бизнес-джета в режиме посадки. Эта работа, сочетающая передовые методы вычислительной гидродинамики и аэроакустики, впервые позволила с высокой точностью локализовать и охарактеризовать основные зоны шумообразования вблизи полноразмерной геометрии крыла модели прототипа сверхзвукового пассажирского самолета в посадочной конфигурации.
Состояние паралича, в которое впадают разные виды животных, хорошо известно и задокументировано. Обычно оно считается защитной реакцией в случае опасности, но никаких доказательств этому до сих пор нет. Особенно загадочным остается поведение обитателей океана, притворяющихся мертвыми. Ученые проверили существующие объяснения этого эффекта и сделали неожиданные выводы.
Квантовые спиновые жидкости (КСЖ) обещают ученым развитие в областях квантовых вычислений и передачи энергии без потерь. В них магнитные моменты частиц теоретически не должны упорядочиваться даже при охлаждении до абсолютного нуля температур.
Радиотелескопы уловили очень короткий сигнал, и по его характеристикам стало ясно, что он не может быть естественного происхождения. Астрономы пришли к выводу, что источник находился в околоземном пространстве — там, где уже более полувека летает «мертвый» аппарат NASA.
Группа российских ученых из Института прикладной математики имени М. В. Келдыша РАН и МФТИ провела детальное численное исследование источников шума, генерируемых крылом прототипа сверхзвукового бизнес-джета в режиме посадки. Эта работа, сочетающая передовые методы вычислительной гидродинамики и аэроакустики, впервые позволила с высокой точностью локализовать и охарактеризовать основные зоны шумообразования вблизи полноразмерной геометрии крыла модели прототипа сверхзвукового пассажирского самолета в посадочной конфигурации.
Вид антилоп, с ледникового периода привыкший к массовым миграциям, пытается вернуться в свой исторический ареал, когда-то достигавший Днепра. Однако их нетипичные для травоядных привычки вызывают сильнейшее отторжение у сельских жителей, предлагающих массово уничтожать их с воздуха. С экологической точки зрения возвращение этих животных весьма желательно, но как примирить их с фермерами — неясно.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно