Российские ученые научили нейросеть сомневаться
Исследователи Центра искусственного интеллекта Сколтеха совместно с коллегами из Института проблем передачи информации РАН разработали метод, который позволяет нейросетям более точно оценивать собственную «уверенность» в прогнозах. Метод использует специальный набор тренировочных данных (Confidence-Aware Training Data) и направлен на повышение надежности нейросетевых моделей в задачах с высоким уровнем риска — например, в медицине или промышленности.
Результаты представлены на престижной Международной конференции по использованию компьютерного зрения (WACV-2025) и в сборнике конференции.
Современные нейросетевые модели нередко демонстрируют высокую точность, однако в ряде случаев проявляют избыточную уверенность в своих предсказаниях — даже в ситуациях, когда данные неоднозначные или содержат шум. Это может быть критичным для таких сфер, как медицина, промышленная безопасность или автономные системы. Разработанный подход позволяет повысить надежность моделей за счет более точного контроля над их поведением в сложных и пограничных сценариях.
Новый метод помогает нейросети обнаруживать случаи, в которых ее прогноз может требовать дополнительной проверки со стороны человека. Исследователи протестировали технологию на реальных данных, в том числе в задачах медицинской диагностики по типированию крови, и получили значительный рост точности оценки неопределенности в задачах классификации и сегментации.
В отличие от классических подходов, где в обучающих выборках используются только бинарные метки (0 или 1), в новой методике дополнительно вводятся «мягкие» метки — значения в диапазоне от 0 до 1, отражающие степень уверенности экспертов в правильности разметки данных. Это помогает модели формировать более осторожную стратегию принятия решений и эффективнее реагировать на ситуации с высокой степенью неопределенности.
Кроме того, метод позволяет учитывать два типа неопределенности: эпистемическую, связанную с недостаточностью и неполнотой обучающих данных, и алеаторную — возникающую из-за природного шума или неоднозначности в самих данных.
«Наш метод помогает нейросети понять, где стоит проявить осторожность. На практике это позволяет снизить риск излишней уверенности модели при обработке сложных или пограничных случаев. Мы протестировали метод на реальных данных и подтвердили его эффективность в оценке неопределенности», — рассказал Александр Югай, младший инженер-исследователь Центра искусственного интеллекта Сколтеха.
Новая технология может быть применена в ответственных областях, где важна надежность искусственного интеллекта, включая медицинские диагностические системы, промышленную автоматизацию, системы технического контроля и автономные решения.
«Мы сфокусировались на том, чтобы научить модель не только принимать решения, но и выделять случаи, в которых риск ошибки особенно высок. Благодаря использованию разметки уверенности, наше решение существенно превосходит существующие. Такая оценка „осторожности“ критически важна для принятия решений в медицине и других областях с высокой стоимостью ошибки», — комментирует Алексей Зайцев, доцент Сколтеха, заведующий Лабораторией прикладных исследований «Сколтех-Сбербанк».
Telegram 
Дзен 
VK Хотя сам факт наличия непонятных объектов на снимках, которые американские астронавты сделали на Луне, известен давно, десятилетиями их списывали на химические дефекты светочувствительной эмульсии фотопленки или блики света в линзах камер. Новая публикация на сайте Пентагона признает их реально существующими объектами, хотя и не делает выводов о их природе.
Крупные травоядные утконосые майазавры известны своим развитым социальным поведением. Они жили семьями и строили гнезда для своих детенышей. Даже название вида переводится с греческого языка как «ящер — хорошая мать». Исследование окаменелых зубов майазавров показало, что они выращивали детенышей совсем не так, как это считалось типичным для животных глубокой древности.
Десятого мая 1940 года вермахт пришел в движение. Через 42 суток англо-французские армии были разгромлены, а Франция капитулировала. Как это произошло, ведь союзники имели больше солдат, танков и пушек, чем немцы? В СССР причиной посчитали нежелание французов воевать, немцы же, говорили советские военные, не внесли в стратегию ничего нового. Реальность была строго обратной: разгром Франции был новым словом в войне, и такой же сценарий Гитлер применил против СССР через год. Что именно произошло и отчего советское руководство не смогло осознать случившееся?
Нейробиологи СПбГУ продемонстрировали, что активация рецептора следовых аминов TAAR1 эффективно подавляет агрессивное поведение, вызванное полным отсутствием серотонина в мозге. В дальнейшем этот результат поможет в разработке лекарственных препаратов, направленных на коррекцию патологических форм агрессии, возникающих при посттравматическом стрессовом расстройстве (ПТСР) и шизофрении.
Крупные травоядные утконосые майазавры известны своим развитым социальным поведением. Они жили семьями и строили гнезда для своих детенышей. Даже название вида переводится с греческого языка как «ящер — хорошая мать». Исследование окаменелых зубов майазавров показало, что они выращивали детенышей совсем не так, как это считалось типичным для животных глубокой древности.
Астрономы впервые использовали гравитационные волны, чтобы косвенно оценить параметры одного из ключевых процессов термоядерного горения в массивных светилах. Именно от него зависит, какие звезды взрываются, какие превращаются в черные дыры и как во Вселенной появляются углерод и кислород — элементы, без которых не было бы ни планет, ни жизни.
В последнее время пуски с российских северных космодромов осуществляют без предварительного уведомления, чего не было в прошлом. Вероятно, дело в недавно упомянутых главой «Роскосмоса» атаках на Плесецк во время пуска. Сегодняшний запуск обеспечил вывод на орбиту космических аппаратов военного назначения.
Химические связи в материале, из которого сделана электроника, разрываются не из-за накопительного износа от протекания тока через них, а из-за электронов с конкретной энергией.
Термоядерные электростанции не смогут конкурировать по цене с возобновляемыми источниками энергии из-за медленного удешевления технологии. По расчетам, расходы на каждую новую установку падали максимум на 8% — много раз ниже ранних ожиданий венчурных инвесторов. Это перечеркивает экономический смысл финансовых вливаний, и мир может никогда не увидеть дешевой термоядерной энергии.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно