• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
Рубрика выходит при поддержке
31.12.2021, 10:21
Мария Осетрова
4
13,9 тыс

Физики создали квантовую нейросеть, способную к обучению

❋ 6.4

Исследователи из США и Великобритании определили, что сверточные нейронные сети не страдают от проблемы «бесплодного плато» и гарантированно обучаемы. Такую архитектуру можно будет использовать для анализа данных при помощи квантовых компьютеров.

© Los Alamos National Laboratory
© Los Alamos National Laboratory / Автор: Pinaria Caprarius

Квантовые нейронные сети вызывают ажиотаж вокруг возможности эффективного анализа квантовых данных. Но это волнение сдерживает проблема так называемого бесплодного плато, характерная для многих архитектур нейронных сетей. В процессе обучения нейронная сеть движется по ландшафту функции потерь, стараясь найти самую нижнюю точку. Попадая в «бесплодное плато», она не чувствует достаточного перепада высот и, соответственно, не может определить, в каком направлении двигаться дальше. В результате натренировать нейронную сеть не удается.

В своей работе ученые решили проверить, будут ли от проблемы «бесплодного плато» страдать сверточные нейронные сети. При их создании вдохновлялись строением зрительной коры головного мозга. Сверточные нейронные сети состоят из череды слоев с постепенно снижающейся размерностью, которые сохраняют ключевые особенности набора данных. Такую структуру нейросетей используют для самых разных задач — от анализа изображений до распознавания речи.

Авторам исследования удалось показать, что квантовые сверточные нейронные сети невосприимчивы к «бесплодному плато», в отличие от многих других архитектур нейронных сетей. Это особенно актуально при увеличении размерности данных. Ученые предполагают, что масштабируемые и обучаемые квантовые нейронные сети подойдут для анализа и моделирования материалов с высокотемпературной сврехпроводимостью, на которые одновременно влияют множество параметров: температура, давление, наличие примесей и разница фаз. Классическим компьютерам такие вычисления не под силу.

Кроме того, авторы работы представляют новую методику, основанную на графах, с помощью которой они анализировали чувствительность нейронной сети к «бесплодному плато». Исследователи предполагают, что она может быть полезна и в других приложениях.

Статья с подробным описанием структуры нейросети и доказательствами ее обучаемости опубликована в журнале Physical Review X.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
22 мая, 10:59
НИУ ВШЭ

Эффект Даннинга — Крюгера, который описывает резкий всплеск уверенности в своих силах у новичков и такое же стремительное ее падение при наборе опыта, объясняется особенностями процесса обучения и набора новых знаний. К такому выводу пришли сотрудник факультета экономических наук НИУ ВШЭ Андрей Ворчик вместе с независимым исследователем Муратом Мамышевым. Они  разработали математическую модель процесса обучения и показали, как формируется и изменяется субъективная уверенность по мере накопления знаний и как  преподаватель может уменьшить «долину отчаяния» для ученика.

22 мая, 16:40
МГППУ

Чтение в дошкольном возрасте — это важная часть обучения, общения и воспитания. Оно помогает понимать смысл, задавать вопросы, удерживать внимание и постепенно входить в культуру общения с книгой. Кроме того, для маленького ребенка это новый способ взаимодействия с родителем. Сегодня эта тема особенно актуальна, потому что интерес детей к чтению снижается, а книги все чаще не выдерживают конкуренции с яркими видеоформатами. На рынке появляются книги с интерактивными элементами или элементами дополненной реальности: оживающие картинки, запахи, звуки.

23 мая, 11:47
Игорь Байдов

Меркурий — ближайшая к Солнцу планета, поэтому она постоянно подвергается интенсивному солнечному излучению. Однако там располагаются огромные запасы водяного льда — по оценкам, речь идет о сотнях миллиардах тонн. Правда, хранится он исключительно на полюсах на дне глубоких, постоянно затененных кратеров. Обнаружение льда в полярных кратерах Меркурия — одно из самых необычных открытий планетологии последних десятилетий. Но механизм его появления на планете до сих пор остается предметом научных споров. К разгадке приблизилась международная группа планетологов.

20 мая, 12:45
Илья Гриднев

Китайский аппарат Tianwen-1, находясь на орбите Марса, снял 3I/ATLAS с редкого ракурса вне плоскости орбиты межзвездной кометы. Наблюдение и моделирование показали, что кому кометы заполняют крупные частицы размером в сотни микрометров, выбрасываемые с массовым расходом примерно тонна в секунду.

19 мая, 09:08
ИИМК РАН

Команда археологов в составе младшего научного сотрудника Отдела славяно-финской археологии ИИМК РАН Натальи Григорьевой и археозоологов Института экологии растений и животных УрО РАН Ольги Бачуры и Татьяны Лобановой завершила комплексное исследование коллекции костей животных из раскопок поселения на Земляном городище Старой Ладоги (Ленинградская область). В ходе работы удалось проследить изменения системы хозяйства жителей на протяжении почти 10 веков.

17 мая, 12:46
Татьяна Зайцева

Выходя из вагона и направляясь к выходу со станции, люди склонны следовать по тому же маршруту, что и незнакомый человек, идущий непосредственно перед ними. Это происходит даже в том случае, если такой выбор приводит к увеличению времени в пути.

17 мая, 10:35
Игорь Байдов

В высокогорных районах Гималаев появился новый хищник. Он не боится людей, возглавляет стаи собак и все чаще заходит в деревни. Местные жители называют его «кхипшанг». Речь идет о гибриде гималайского волка и бродячей собаки. Ученые опасаются, что этот зверь изменит хрупкий баланс местной дикой природы и в скором времени станет весьма опасным для человека.

24 апреля, 13:28
Татьяна Зайцева

Спустя два с половиной года после того, как подводный аппарат обнаружил на дне залива Аляска загадочный «золотой шар», ученым, наконец, удалось разобраться в природе этого объекта. Они пришли к выводу, что это отброшенная часть оболочки или основания гигантской глубоководной актинии.

29 апреля, 13:04
Александр Березин

Релиз довольно неожиданно перенес время образования протонов и нейтронов в более раннее прошлое Вселенной. К сожалению, из его текста осталось неясным научное обоснование таких фундаментальных изменений в космологии. Также он резко передвинул в прошлое и момент возникновения реликтового излучения.

[miniorange_social_login]

Комментарии

4 Комментария
ai77 .
14.01.2022
-
0
+
На мой (пока непрофессиональный, к сожалению) взгляд, содержание статьи передано не совсем верно. Дело в том, что _любая_ квантовая нейросеть (QNN) _в принципе_ выходит из "бесплодного плато" и _в принципе_ рано или поздно достигает глобального минимума - за счет туннельного эффекта. Вопрос в том, насколько эффективно (быстро и с минимумом ресурсов) она это делает. Авторы предлагают для сверточных нейросетей (CQNN) новый метод (GRIM), который позволяет, используя рекурсию, построить граф для оптимальной (экономия ресурсов - кубитов, как понимаю) оценки функции ошибок и показывают (оценивая минимальные значения градиентов), что минимума можно достичь за разумное число итераций (т.е. реальное отсутствие "бесплодного плато").
-
0
+
Автор похоже не понял про что пишет. Классические "Сверточные нейронные сети" и квантовые это совсем разные в плане обучения вещи. И классические сверточные сети в той же мере имеют проблемы с упомянутым плато, как и остальные сети - методы обучения одни и те же. А вот квантовые сети не нуждаются в градиенте для обучения и соответственно гораздо более перспективны.
    ai77 .
    14.01.2022
    -
    0
    +
    По крайней мере в данном случае имхо это не так - в оригинальной статье вводится и анализируется минимум функции потерь градиентным спуском, при определенных предположениях. Вот цитата: "Here we provide a rigorous analysis of the scaling of the QCNN cost function gradient, under the following assumptions: (1) All the two-qubit unitaries in the QCNN form independent (and uncorrelated) 2-designs and (2) the cost function is linear with respect to the input density matrix."
Да да... Материалы со сверхпроводимостью, как же. Знаем мы для чего эти сети будут использоваться. Для слежки и сбора данных.
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Комментарий на проверке

Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Авторизуясь, вы даете согласие на обработку персональных данных и подтверждаете ознакомление с Политикой.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно