Уведомления
Авторизуйтесь или зарегистрируйтесь, чтобы оценивать материалы, создавать записи и писать комментарии.
Авторизуясь, вы соглашаетесь с правилами пользования сайтом и даете согласие на обработку персональных данных.
Российские ученые научили нейросеть сомневаться
Исследователи Центра искусственного интеллекта Сколтеха совместно с коллегами из Института проблем передачи информации РАН разработали метод, который позволяет нейросетям более точно оценивать собственную «уверенность» в прогнозах. Метод использует специальный набор тренировочных данных (Confidence-Aware Training Data) и направлен на повышение надежности нейросетевых моделей в задачах с высоким уровнем риска — например, в медицине или промышленности.
Результаты представлены на престижной Международной конференции по использованию компьютерного зрения (WACV-2025) и в сборнике конференции.
Современные нейросетевые модели нередко демонстрируют высокую точность, однако в ряде случаев проявляют избыточную уверенность в своих предсказаниях — даже в ситуациях, когда данные неоднозначные или содержат шум. Это может быть критичным для таких сфер, как медицина, промышленная безопасность или автономные системы. Разработанный подход позволяет повысить надежность моделей за счет более точного контроля над их поведением в сложных и пограничных сценариях.
Новый метод помогает нейросети обнаруживать случаи, в которых ее прогноз может требовать дополнительной проверки со стороны человека. Исследователи протестировали технологию на реальных данных, в том числе в задачах медицинской диагностики по типированию крови, и получили значительный рост точности оценки неопределенности в задачах классификации и сегментации.
В отличие от классических подходов, где в обучающих выборках используются только бинарные метки (0 или 1), в новой методике дополнительно вводятся «мягкие» метки — значения в диапазоне от 0 до 1, отражающие степень уверенности экспертов в правильности разметки данных. Это помогает модели формировать более осторожную стратегию принятия решений и эффективнее реагировать на ситуации с высокой степенью неопределенности.
Кроме того, метод позволяет учитывать два типа неопределенности: эпистемическую, связанную с недостаточностью и неполнотой обучающих данных, и алеаторную — возникающую из-за природного шума или неоднозначности в самих данных.
«Наш метод помогает нейросети понять, где стоит проявить осторожность. На практике это позволяет снизить риск излишней уверенности модели при обработке сложных или пограничных случаев. Мы протестировали метод на реальных данных и подтвердили его эффективность в оценке неопределенности», — рассказал Александр Югай, младший инженер-исследователь Центра искусственного интеллекта Сколтеха.
Новая технология может быть применена в ответственных областях, где важна надежность искусственного интеллекта, включая медицинские диагностические системы, промышленную автоматизацию, системы технического контроля и автономные решения.
«Мы сфокусировались на том, чтобы научить модель не только принимать решения, но и выделять случаи, в которых риск ошибки особенно высок. Благодаря использованию разметки уверенности, наше решение существенно превосходит существующие. Такая оценка „осторожности“ критически важна для принятия решений в медицине и других областях с высокой стоимостью ошибки», — комментирует Алексей Зайцев, доцент Сколтеха, заведующий Лабораторией прикладных исследований «Сколтех-Сбербанк».
Telegram 
Дзен 
VK Морские биологи впервые детально задокументировали процесс родов у диких кашалотов. Анализ видеозаписей и акустических сигналов показал, что самки из разных родственных линий временно объединяются, чтобы по очереди выталкивать новорожденного на поверхность для дыхания. Это первое доказательство взаимопомощи при родах между неродственными особями у видов, не относящихся к приматам.
Ученые Кабардино-Балкарского государственного университета им. Х.М. Бербекова более десяти лет изучают уникальные свойства кефирных зерен — природных симбиотических сообществ микроорганизмов, собранных в высокогорных районах Кавказа. Исследования показывают, они могут стать основой для новых методов лечения кишечных заболеваний, восстановления иммунитета и даже создания космического питания.
Квантовые эффекты помогают ученым во множестве сфер, но работать с ними не просто — степень определенности квантового мира концептуально отличается от того, что существует в классической физике. Чтобы подтвердить, что они работают с нужными квантовыми состояниями, физикам приходится постараться.
Морские биологи впервые детально задокументировали процесс родов у диких кашалотов. Анализ видеозаписей и акустических сигналов показал, что самки из разных родственных линий временно объединяются, чтобы по очереди выталкивать новорожденного на поверхность для дыхания. Это первое доказательство взаимопомощи при родах между неродственными особями у видов, не относящихся к приматам.
Ученые Кабардино-Балкарского государственного университета им. Х.М. Бербекова более десяти лет изучают уникальные свойства кефирных зерен — природных симбиотических сообществ микроорганизмов, собранных в высокогорных районах Кавказа. Исследования показывают, они могут стать основой для новых методов лечения кишечных заболеваний, восстановления иммунитета и даже создания космического питания.
Во время нейроанатомического исследования тканей полового члена ученые выявили высокую плотность нервных окончаний в области, которую анатомы и хирурги долгое время оставляли без должного внимания. Авторы научной работы предположили, что эта зона может играть важную роль в формировании сексуальных ощущений, и допустили, что именно там у мужчин находится аналог так называемой «точки G».
В парках некоторых стран все чаще можно заметить странную картину: синицы и воробьи вместо пуха и веточек приносят в клювах сигаретные окурки. Орнитологи из Польши решили выяснить, зачем птицы выстилают гнезда мусором, пропитанным никотином. Оказалось, пернатые нашли способ использовать вредную человеческую привычку для защиты своего потомства. Но, как это часто бывает в природе, у медали есть обратная сторона.
Марсоход «Персеверанс» обнаружил в камнях на кромке кратера Езеро спектральные признаки минерала корунда, из которого на Земле образуются рубины и сапфиры. Такие спектры на Красной планете зарегистрировали впервые. Теперь ученые пытаются понять, при каких процессах он мог там сформироваться, ведь условия на Марсе заметно отличаются от тех, в которых корунд обычно образуется на Земле.
За 10 лет лежания в почве сигаретные фильтры не растворились, а лишь замаскировались под грязь. Их пластиковые волокна распались на микрочастицы, намертво склеились с минералами и превратились во вторичный микропластик. Более того, на пятом году гниения мусор начал отравлять землю с новой силой.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно