• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
28 февраля
НИУ ВШЭ
1 829

В НИУ ВШЭ научили нейросеть учиться на несколько порядков эффективнее

4.6

Нейросетевые генеративные модели в последние годы достигли впечатляющих результатов, однако важной задачей остается повышение эффективности их работы. Исследователям факультета компьютерных наук НИУ ВШЭ и Института искусственного интеллекта AIRI удалось оптимизировать обучение нейросети StyleGAN2, создающей реалистичные картинки, сократив число обучаемых параметров на четыре порядка. При этом качество полученных изображений осталось высоким.

Сравнение предложенного подхода с основным бейзлайном (StyleGAN-NADA). Методы показывают сопоставимое визуальное качество, притом, что предложенный подход имеет на порядки меньше обучаемых параметров / ©Пресс-служба НИУ ВШЭ

Результаты работы представлены в докладе на конференции NeurIPS 2022. Современные модели умеют генерировать человеческие лица в таком качестве, что их не отличить от лиц настоящих людей, и в то же время эти лица — новые, то есть таких людей в мире никогда не существовало. Одним из многообещающих типов генеративных моделей стала GAN (Generative Adversarial Network) — генеративно-состязательная сеть. Это комбинация из двух нейронных сетей, одна из которых (генератор) производит образцы, а другая (дискриминатор) — старается отличить правильные образцы от неправильных. Так как генератор и дискриминатор имеют противоположные цели, между ними возникает антагонистическая игра, которая способствует быстрому достижению общей цели — созданию реалистичного изображения.

Основная проблема при обучении генеративных моделей — сбор большого количества изображений высокого качества. Для того чтобы научиться генерировать реалистичные лица в высоком разрешении, сети понадобится порядка 100 тысяч разнообразных лиц. К сожалению, собрать такой датасет сложно, особенно в некоторых ситуациях, когда, например, нужно получить портреты в стиле конкретного художника или персонажей из вселенной Pixar.

Слева: предложенная доменная модуляция и ее механизм в архитектуре StyleGAN2. Справа: механизм доменной адаптации с помощью обучения доменных векторов / ©Пресс-служба НИУ ВШЭ

Однако даже в экстремальных случаях, когда доступно несколько примеров стилизованных изображений или только текстовые описания, есть методы для дообучения генеративной модели, которая изначально училась на большом датасете обычных изображений. «Ранее для адаптации генератора под новый домен (например, портреты в стиле Pixar) дообучали почти все параметры — это порядка 30 миллионов. Нашей целью было уменьшить их число, так как мы понимали, что не имеет смысла учить заново весь генератор, чтобы изменить только стиль созданного ранее изображения», — отметил Дмитрий Ветров, заведующий Центром глубинного обучения и байесовских методов НИУ ВШЭ и ведущий научный сотрудник AIRI.

В статье HyperDomainNet: Universal Domain Adaptation for Generative Adversarial Networks ученые Центра глубинного обучения и байесовских методов НИУ ВШЭ описали новый подход к дообучению генеративной модели StyleGAN2. Это генеративная нейросеть, которая преобразует случайный шум в реалистичную картинку. Исследователям удалось оптимизировать ее обучение, сократив число обучаемых параметров (весов) на четыре порядка за счет обучения дополнительного доменного вектора.

В архитектуре сети StyleGAN2 есть специальные трансформации (модуляции), с помощью которых входной случайный вектор контролирует семантические признаки выходного изображения, такие как пол, возраст и так далее. Ученые предложили обучать дополнительный вектор, который определяет домен выходных изображений через аналогичные модуляции.

«Если дополнительно обучать только такой доменный вектор, то домен генерируемых картинок меняется так же хорошо, как если бы мы дообучали все параметры нейронной сети. Это кардинально снижает число оптимизируемых параметров, так как размерность такого доменного вектора всего 6000, что на порядки меньше, чем 30 млн весов нашего генератора», — рассказал Айбек Аланов, первый автор статьи, стажер-исследователь Центра глубинного обучения и байесовских методов НИУ ВШЭ и научный сотрудник AIRI.

На основании полученных результатов ученые предложили первый метод мультидоменной адаптации, который позволяет адаптировать модель на несколько доменов сразу. Такая значительная оптимизация дообучения на новые домены сокращает время обучения и используемую память. С помощью такого метода можно обучить гиперсеть, которая имеет меньше параметров, чем исходный генератор, но хранит в себе сотни и даже тысячи новых доменов.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Национальный исследовательский университет «Высшая школа экономики» — одно из крупнейших и самых востребованных высших учебных заведений России, стран СНГ и государств Восточной Европы. В НИУ ВШЭ представлены все уровни образовательной подготовки (от лицея для школьников до аспирантуры и MBA) по широкому спектру направлений в области социально-экономических, гуманитарных, юридических, инженерных, компьютерных, физико-математических наук, а также творческих специальностей. Научные подразделения ВШЭ — институты, центры, лаборатории, возглавляемые ведущими российскими и зарубежными учеными, ориентированы как на фундаментальные исследования, так и на прикладные разработки по заказам федеральных и региональных органов власти, министерств и ведомств, российских и зарубежных компаний. Высшая школа экономики стабильно занимает высокие места в предметных рейтингах Times Higher Education (THE) и QS, а также является единственным российским университетом в топ-50 рейтингов молодых университетов сразу двух агентств.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Предстоящие мероприятия
Сегодня, 08:01
Мария Азарова

Центры по контролю и профилактике заболеваний США вместе с Управлением по санитарному надзору за качеством пищевых продуктов и медикаментов, а также государственными и местными департаментами здравоохранения расследуют случаи бактериальной инфекции, связанные с использованием глазных капель.

Вчера, 15:04
ФизТех

Ученые МФТИ и ОИВТ РАН создали модель кинетики образования металлического водорода во флюидном состоянии.

7 часов назад
Мария Азарова

ДНК одного из самого известных композиторов в мире — Людвига ван Бетховена, умершего в первой половине XIX века — расшифровали по прядям его волос, сохраненным друзьями, поклонниками и коллекционерами.

19 марта
Анна Новиковская

Многие люди спят в обнимку со своими кошками или собаками, однако медики выяснили, что подобные привычки ведут к плохому сну и беспокойным ночам.

19 марта
Александр Березин

После банкротства 16-го и 22-го по размерам банков в США над миром снова замаячил призрак «Леман Бразерс», то есть такого банкротства американского банка, за которым может последовать рецессия по всей планете. В то же время в нашей стране с крупными банками такого за период СВО не происходило. Увы, в силу особенностей мышления субъектов российской экономики, это совсем не значит, что американский кризис через несколько месяцев не коснется и нас. При каких условиях это может случиться?

Позавчера, 13:31
Анна Новиковская

Многие владельцы кошек сталкиваются с проблемой, когда их любимцы ходят мимо лотка или пачкают другие места в доме. Финские исследователи выяснили, что можно исправить в обстановке, чтобы кошка перестала так делать.

24 февраля
Анна Новиковская

Среди хищных динозавров, предков современных птиц, встречались как крохи не больше цыпленка, так и гиганты размером с автобус. Теперь ученым удалось узнать, как тираннозавры смогли вырасти столь огромными.

10 марта
Анна Новиковская

Многие мужчины и некоторые женщины время от времени смотрят порнографические ролики или фотографии. Но исследователи из Университета Бригама Янга утверждают: избегание порно жизненно важно для развития здоровых и долгосрочных романтических отношений.

4 марта
Анна Новиковская

Уже пять тысяч лет назад жители Южной Европы ездили верхом на лошадях, и археологи обнаружили доказательства этой привычки, изучив специфические патологии человеческих скелетов.

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: