• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
Рубрика выходит при поддержке
31.12.2021, 10:21
Мария Осетрова
4
13,9 тыс

Физики создали квантовую нейросеть, способную к обучению

❋ 6.4

Исследователи из США и Великобритании определили, что сверточные нейронные сети не страдают от проблемы «бесплодного плато» и гарантированно обучаемы. Такую архитектуру можно будет использовать для анализа данных при помощи квантовых компьютеров.

© Los Alamos National Laboratory
© Los Alamos National Laboratory / Автор: Pinaria Caprarius

Квантовые нейронные сети вызывают ажиотаж вокруг возможности эффективного анализа квантовых данных. Но это волнение сдерживает проблема так называемого бесплодного плато, характерная для многих архитектур нейронных сетей. В процессе обучения нейронная сеть движется по ландшафту функции потерь, стараясь найти самую нижнюю точку. Попадая в «бесплодное плато», она не чувствует достаточного перепада высот и, соответственно, не может определить, в каком направлении двигаться дальше. В результате натренировать нейронную сеть не удается.

В своей работе ученые решили проверить, будут ли от проблемы «бесплодного плато» страдать сверточные нейронные сети. При их создании вдохновлялись строением зрительной коры головного мозга. Сверточные нейронные сети состоят из череды слоев с постепенно снижающейся размерностью, которые сохраняют ключевые особенности набора данных. Такую структуру нейросетей используют для самых разных задач — от анализа изображений до распознавания речи.

Авторам исследования удалось показать, что квантовые сверточные нейронные сети невосприимчивы к «бесплодному плато», в отличие от многих других архитектур нейронных сетей. Это особенно актуально при увеличении размерности данных. Ученые предполагают, что масштабируемые и обучаемые квантовые нейронные сети подойдут для анализа и моделирования материалов с высокотемпературной сврехпроводимостью, на которые одновременно влияют множество параметров: температура, давление, наличие примесей и разница фаз. Классическим компьютерам такие вычисления не под силу.

Кроме того, авторы работы представляют новую методику, основанную на графах, с помощью которой они анализировали чувствительность нейронной сети к «бесплодному плато». Исследователи предполагают, что она может быть полезна и в других приложениях.

Статья с подробным описанием структуры нейросети и доказательствами ее обучаемости опубликована в журнале Physical Review X.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Предстоящие мероприятия
12 августа, 14:39
Илья Гриднев

Эксперимент физиков из ЦЕРН позволил рассмотреть поведение глюонов внутри атомных ядер с беспрецедентной точностью. При сверхвысоких плотностях эти элементарные частицы переставали размножаться и начинали объединяться. Это помогло найти подтверждение теории «глюонного насыщения», а не принятого «ядерного затенения» для определенного диапазона сверхвысоких энергий.

12 августа, 19:49
Редакция Naked Science

МС-21-310 — импортозамещенная версия российского пассажирского самолета МС-21. Вскоре он появится на отечественных аэродромах, пообещали в «Ростехе». Также госкорпорация опубликовала видео, на котором можно увидеть процесс строительства этого авиалайнера.

11 августа, 16:16
Татьяна Зайцева

Палеонтологи, изучив окаменелые кости древнего существа, обнаруженные еще в 1948 году на острове в Баренцевом море, пришли к выводу, что это новый вид плагиозаврид — вымерших земноводных, живших на планете примерно 250 миллионов лет тому назад. Вновь идентифицированная амфибия по размерам оказалась рекордсменом среди собратьев, достигая в длину почти трех метров.

9 августа, 19:34
Марк Чернов

Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.

12 августа, 14:39
Илья Гриднев

Эксперимент физиков из ЦЕРН позволил рассмотреть поведение глюонов внутри атомных ядер с беспрецедентной точностью. При сверхвысоких плотностях эти элементарные частицы переставали размножаться и начинали объединяться. Это помогло найти подтверждение теории «глюонного насыщения», а не принятого «ядерного затенения» для определенного диапазона сверхвысоких энергий.

10 августа, 11:42
Илья Гриднев

Британские экологи выяснили, что большинство людей не догадываются о вреде солнцезащитных кремов для Мирового океана. Обзор научной литературы и локальный уличный опрос наглядно продемонстрировали разрыв между реальными экологическими угрозами и повседневными привычками покупателей.

31 июля, 14:12
Андрей Серегин

Долгое время считалось, что до прихода европейцев тропические леса Амазонии были заселены сравнительно плохо. Однако выяснилось, что плотная растительность скрывает большинство следов древних обществ. С помощью воздушного лазерного сканирования ученые обнаружили сотни неизвестных земляных сооружений и предположили, что около двух тысяч лет назад население юго-западной части Амазонии могло достигать трех миллионов человек.

9 августа, 19:34
Марк Чернов

Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.

19 июля, 20:09
Александр Березин

Очереди на заправках стали привычным явлением в России, а на фоне информационного вакуума от властей о конкретных показателях производства бензина в июне население вынуждено ориентироваться на слухи. Все это выглядит довольно странно, но есть нюанс: скорее всего, кризис уже начинает выдыхаться. Как именно мы это выяснили?

[miniorange_social_login]

Комментарии

4 Комментария
ai77 .
14.01.2022
На мой (пока непрофессиональный, к сожалению) взгляд, содержание статьи передано не совсем верно. Дело в том, что _любая_ квантовая нейросеть (QNN) _в принципе_ выходит из "бесплодного плато" и _в принципе_ рано или поздно достигает глобального минимума - за счет туннельного эффекта. Вопрос в том, насколько эффективно (быстро и с минимумом ресурсов) она это делает. Авторы предлагают для сверточных нейросетей (CQNN) новый метод (GRIM), который позволяет, используя рекурсию, построить граф для оптимальной (экономия ресурсов - кубитов, как понимаю) оценки функции ошибок и показывают (оценивая минимальные значения градиентов), что минимума можно достичь за разумное число итераций (т.е. реальное отсутствие "бесплодного плато").
Автор похоже не понял про что пишет. Классические "Сверточные нейронные сети" и квантовые это совсем разные в плане обучения вещи. И классические сверточные сети в той же мере имеют проблемы с упомянутым плато, как и остальные сети - методы обучения одни и те же. А вот квантовые сети не нуждаются в градиенте для обучения и соответственно гораздо более перспективны.
    ai77 .
    14.01.2022
    По крайней мере в данном случае имхо это не так - в оригинальной статье вводится и анализируется минимум функции потерь градиентным спуском, при определенных предположениях. Вот цитата: "Here we provide a rigorous analysis of the scaling of the QCNN cost function gradient, under the following assumptions: (1) All the two-qubit unitaries in the QCNN form independent (and uncorrelated) 2-designs and (2) the cost function is linear with respect to the input density matrix."
Да да... Материалы со сверхпроводимостью, как же. Знаем мы для чего эти сети будут использоваться. Для слежки и сбора данных.