В НИТУ МИСИС представили нейросеть, которая точно определяет объекты, не загруженные в базы данных

Исследователи представили свою работу в октябре на международной конференции по обработке изображений ICIP 2024 в Абу-Даби (ОАЭ).

С увеличением объема данных возникает потребность в более надежных нейросетях, способных не только классифицировать новые объекты, но и распознавать технические помехи, которые неизбежно возникают при получении изображения. Совокупность всей неизвестной информации называют данными вне распределения (ДВР). Человеческий фактор при обнаружении ДВР может привести к нежелательным последствиям. Создатели алгоритма решили эту задачу с помощью разнообразия ансамблевой модели, которое снизило корреляцию между вхождениями и повысило общую точность системы.

Ансамблевая нейросеть SDDE состоит из нескольких моделей, которые обучаются на подмножествах отдельно взятых баз данных, что позволяет каждой из них фокусироваться на уникальных характеристиках изображений. Это достигается с помощью диверсификации карт внимания каждой модели — концепта, позволяющего понять, куда смотрит нейросеть. В результате повышается разнообразие ансамбля и нейросеть определяет объекты на изображениях с минимальной погрешностью. Для оценки эффективности нейросети исследователи провели испытания на нескольких базах данных: CIFAR10, CIFAR100 и ImageNet-1K. Ансамблевая нейросеть SDDE продемонстрировала наилучшие результаты по сравнению со схожими алгоритмами, такими как Negative Correlation Learning и Adaptive Diversity Promoting.

«Одной из важнейших задач при разработке моделей машинного обучения является соответствие реальной вероятности той, которую выдает нейросеть. То есть нейросеть уверена настолько, насколько ей легко предсказать таргет для данного образца. Обычно сети вообще не сомневаются в своих предсказаниях. В рамках данного исследования мы предложили новый метод диверсификации ансамблей, основанный на логитах — то есть, значениях, которые нейросеть выдает перед тем, как превратить их в вероятности.

Это нововведение позволило повысить точность “мнения” нейросети при обнаружении данных вне распределения, что критично для применения моделей в реальных условиях. Например, в режиме автономного вождения необходимо безошибочно определять объекты на дороге, чтобы предотвращать аварии. В медицинской диагностике же требуется обширная база данных для правильной постановки диагноза. Неоткалиброванные модели могут быть чрезмерно уверены в своих неверных предположениях. У нашей нейросети излишняя уверенность отсутствует, что позволяет ей более адекватно оценивать свои расчеты», — рассказал студент третьего курса Института компьютерных наук НИТУ МИСИС Максим Жданов.

Для лучшего обнаружения помех-артефактов исследователи использовали подход Outlier Exposure, который заключается в обучении модели на специальных наборах данных, содержащих примеры ДВР. Ранее ученые Университета МИСИС и НИУ ВШЭ уже представили новую нейросеть LAPUSKA, которая справляется с улучшением качества изображений в два раза быстрее по сравнению с аналогичными продуктами. 

НИТУ МИСИС

101 статей

Университет науки и технологий МИСИС — это ведущий вуз в области создания, внедрения и применения новых технологий и материалов; первый в стране, получивший статус «Национального исследовательского технологического университета». Первое место в России и ТОП-100 в мире в рейтинге QS Materials Science за 2023 год. В университете действуют 45 научно-исследовательских лабораторий и 3 научных центра мирового уровня. В состав НИТУ МИСИС входят 8 институтов, 4 филиала в России и 2 за рубежом.

Показать больше

Закладка

Скопировать ссылку

Email

Печать

Twitter

VK

Telegram