• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
Рубрика выходит при поддержке
31.12.2021, 10:21
Мария Осетрова
4
13,9 тыс

Физики создали квантовую нейросеть, способную к обучению

❋ 6.4

Исследователи из США и Великобритании определили, что сверточные нейронные сети не страдают от проблемы «бесплодного плато» и гарантированно обучаемы. Такую архитектуру можно будет использовать для анализа данных при помощи квантовых компьютеров.

© Los Alamos National Laboratory
© Los Alamos National Laboratory / Автор: Pinaria Caprarius

Квантовые нейронные сети вызывают ажиотаж вокруг возможности эффективного анализа квантовых данных. Но это волнение сдерживает проблема так называемого бесплодного плато, характерная для многих архитектур нейронных сетей. В процессе обучения нейронная сеть движется по ландшафту функции потерь, стараясь найти самую нижнюю точку. Попадая в «бесплодное плато», она не чувствует достаточного перепада высот и, соответственно, не может определить, в каком направлении двигаться дальше. В результате натренировать нейронную сеть не удается.

В своей работе ученые решили проверить, будут ли от проблемы «бесплодного плато» страдать сверточные нейронные сети. При их создании вдохновлялись строением зрительной коры головного мозга. Сверточные нейронные сети состоят из череды слоев с постепенно снижающейся размерностью, которые сохраняют ключевые особенности набора данных. Такую структуру нейросетей используют для самых разных задач — от анализа изображений до распознавания речи.

Авторам исследования удалось показать, что квантовые сверточные нейронные сети невосприимчивы к «бесплодному плато», в отличие от многих других архитектур нейронных сетей. Это особенно актуально при увеличении размерности данных. Ученые предполагают, что масштабируемые и обучаемые квантовые нейронные сети подойдут для анализа и моделирования материалов с высокотемпературной сврехпроводимостью, на которые одновременно влияют множество параметров: температура, давление, наличие примесей и разница фаз. Классическим компьютерам такие вычисления не под силу.

Кроме того, авторы работы представляют новую методику, основанную на графах, с помощью которой они анализировали чувствительность нейронной сети к «бесплодному плато». Исследователи предполагают, что она может быть полезна и в других приложениях.

Статья с подробным описанием структуры нейросети и доказательствами ее обучаемости опубликована в журнале Physical Review X.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Предстоящие мероприятия
31 августа, 13:59
Мария Азарова

Мумии сохраняют следы не только болезней и травм, но и самих процедур, которым подвергали тела после смерти. Компьютерная томография головы мумии, много десятилетий пролежавшей в музее, раскрыла не совсем привычный способ извлечения мозга и другие детали бальзамирования.

31 августа, 16:00
Татьяна Зайцева

Археологи, проводящие раскопки древнего города Адрамиттейон в Западной Турции, обнаружили богатую римскую виллу II-III веков нашей эры. Украшающая виллу мозаика включает в себя неожиданно личный элемент жизни владельцев — изображения домашних питомцев с надписями, указывающими их имена.

31 августа, 17:59
Игорь Байдов

Американские арахнологи открыли в Скалистых горах на севере Айдахо новый вид паука из рода Hexura, представители которого прежде встречались лишь на северо-западе США и в Канаде. Обнаруженная группа живет примерно в 500 километрах восточнее известного науке ареала. Пауки Hexura тесно связаны с местом обитания и не расселяются на большие расстояния, поэтому ученым еще предстоит выяснить, как новый вид оказался так далеко от известных популяций.

28 августа, 15:43
Татьяна Зайцева

Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.

26 августа, 17:59
МАИ

Ребенок легче взрослого, быстрее осваивается в новой обстановке и обладает пластичной нервной системой — значит, невесомость он перенесет проще. Это рассуждение звучит убедительно ровно до тех пор, пока ребенка считают уменьшенной копией взрослого. На самом деле его скелет еще набирает прочность, мышцы учатся работать вместе с нервной системой, вестибулярный аппарат настраивает ощущение положения тела, а органы и ткани проходят этапы, которые нельзя повторить после завершения роста. Если в этот период убрать постоянную нагрузку земного притяжения, организм будет не только приспосабливаться к новой среде: он станет формироваться внутри нее. Каким получится результат, медицина сегодня не знает: длительных орбитальных исследований с участием несовершеннолетних не проводилось.

29 августа, 16:51
Александр Березин

Госдолг США достиг 40 триллионов долларов и растет все быстрее и быстрее. На Западе переполох: при таких размерах его не выплатить. Следовательно, полагают многие, надо решить проблему как древние шумеры — долг обнулить и начать занимать заново. Рецепт кажется здравым, но есть нюансы. Причем поучительнее всего они даже не для Штатов, а, как ни странно, именно для России.

9 августа, 19:34
Марк Чернов

Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.

28 августа, 15:43
Татьяна Зайцева

Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.

19 августа, 18:31
Александр Березин

После сокращения длины очередей и роста доступности бензина в первую неделю августа ситуация снова ухудшилась. Если с 20 июня по начало августа кризис носил в основном психологический характер, то сейчас ситуация принципиально иная: августовские атаки на НПЗ показали, что меры по усилению их противовоздушной обороны не были достаточно полными. Значит, прогноз автора Naked Science от 19 июля о том, что острая фаза кризиса закончится до конца лета, был частично неверным.

[miniorange_social_login]

Комментарии

4 Комментария
ai77 .
14.01.2022
На мой (пока непрофессиональный, к сожалению) взгляд, содержание статьи передано не совсем верно. Дело в том, что _любая_ квантовая нейросеть (QNN) _в принципе_ выходит из "бесплодного плато" и _в принципе_ рано или поздно достигает глобального минимума - за счет туннельного эффекта. Вопрос в том, насколько эффективно (быстро и с минимумом ресурсов) она это делает. Авторы предлагают для сверточных нейросетей (CQNN) новый метод (GRIM), который позволяет, используя рекурсию, построить граф для оптимальной (экономия ресурсов - кубитов, как понимаю) оценки функции ошибок и показывают (оценивая минимальные значения градиентов), что минимума можно достичь за разумное число итераций (т.е. реальное отсутствие "бесплодного плато").
Автор похоже не понял про что пишет. Классические "Сверточные нейронные сети" и квантовые это совсем разные в плане обучения вещи. И классические сверточные сети в той же мере имеют проблемы с упомянутым плато, как и остальные сети - методы обучения одни и те же. А вот квантовые сети не нуждаются в градиенте для обучения и соответственно гораздо более перспективны.
    ai77 .
    14.01.2022
    По крайней мере в данном случае имхо это не так - в оригинальной статье вводится и анализируется минимум функции потерь градиентным спуском, при определенных предположениях. Вот цитата: "Here we provide a rigorous analysis of the scaling of the QCNN cost function gradient, under the following assumptions: (1) All the two-qubit unitaries in the QCNN form independent (and uncorrelated) 2-designs and (2) the cost function is linear with respect to the input density matrix."
Да да... Материалы со сверхпроводимостью, как же. Знаем мы для чего эти сети будут использоваться. Для слежки и сбора данных.