Виртуальная реальность станет более реальной
Ученые из лаборатории ADASE (Advanced Data Analytics in Science and Engineering) Сколтеха разработали способ повысить разрешение карт глубины, что в свою очередь поможет сделать виртуальную реальность и компьютерную графику более реалистичной.
Результаты работы представлены на престижной конференции International Conference on Computer Vision 2019 в Корее.
Делая фотографию, мы фиксируем визуальную информацию об окружающих объектах: пиксели фото содержат в себе цвета соответствующих частей. Карты глубины (depth maps) — это снимки, которые фиксируют пространственную информацию: их пиксели содержат в себе расстояния от камеры до соответствующих точек пространства.
В таких приложениях, как компьютерная графика, дополненная или виртуальная реальность, эта пространственная информация используется для восстановления формы трехмерной поверхности объектов и их последующего отображения, например, на экране компьютера.
Одна из проблем сенсоров, захватывающих карты глубины (depth cameras), заключается в том, что разрешения этих захватываемых карт (то есть пространственной частоты замеров расстояния) недостаточны для высококачественного восстановления формы объектов. В результате их виртуальные реконструкции выглядят нереалистично. Перед исследователями стоит задача научиться получать из карт глубины низкого разрешения те же карты высокого разрешения.
Для этого ученые из лаборатории ADASE Сколтеха предложили новый способ оценки качества полученных результатов, приближенный к человеческому восприятию. Обучение искусственной нейронной сети с использованием способа измерения качества позволяет получить метод суперразрешения карт глубины, визуальное качество результатов которого значительно превосходит визуальное качество результатов, получаемых при помощи существующих методов.
«При суперразрешении карт глубины необходимо оценивать качество получаемого результата. Эта оценка используется, во-первых, для сравнения разных методов между собой, а во-вторых, во время разработки метода — как обратная связь для его совершенствования. Простейший способ получения такой оценки —измерение похожести результата на некоторый эталон.
В подавляющем большинстве работ, посвященных задаче суперразрешения карт глубины, количественной мерой качества является среднее отклонение расстояния в суперразрешенной карте глубины от его эталонного значения. Такой способ абсолютно не отражает визуального качества трехмерной реконструкции, получаемой из суперразрешенной карты глубины», — рассказывает первый автор исследования Олег Войнов.
«Мы предлагаем принципиально другой способ оценки, основанный на человеческом восприятии разницы между визуализациями трехмерных реконструкций, построенных по суперразрешенной и эталонной картам глубины. При его использовании графика получается действительно реалистичной. Мы надеемся, что наш метод получит широкое применение», — рассказывает один из разработчиков Алексей Артемов.
Telegram 
Дзен 
VK 
