Работа с нейросетями помогла объяснить странные сны «гипотезой переобученного мозга»

Эрик Хоэль (Erik Hoel) из Университета Тафтса (США) опубликовал в рецензируемом научном журнале Cell описание своей «гипотезы переобученного мозга» (The overfitted brain hypothesis). Он считает, что центральный орган человеческой нервной системы использует сновидения в качестве инструмента, позволяющего обобщать полученный опыт, а не замыкаться на конкретных типовых ситуациях. Происходит это путем создания как можно более странных образов, вносящих серьезные изменения в знакомую картину. Таким образом мозг отвлекается от однообразных повторяющихся событий или явлений и поддерживает себя в тонусе — готовым к реакции на изменяющуюся обстановку.

Аналогичный эффект переобучения (overfitting) возникает при тренировке нейросетей. Дело в следующем: обученный на определенной выборке алгоритм может настолько сильно «привыкнуть» к ней, что станет хуже работать на реальных примерах, чем должен. То есть модель будет почти идеально объяснять примеры из обучения, но экстраполировать ее «навык» эффективно не получится. А это вообще-то основная цель при создании нейросетей. Чтобы избежать переобучения, применяют так называемое исключение (dropout) — внедрение некоторого количества хаоса в обучающую выборку.

Например, в набор реальных фотографий, по которым тренируют алгоритм автомобильного автопилота, вносят изображения с намеренными искажениями. Это могут быть черные прямоугольники, закрывающие какие-то элементы картинки, или вовсе вырванные из контекста образы. В результате нейросеть создает такие связи, которые обходят незначительные препятствия к восприятию реальной картины. То есть становится ближе к человеческому мозгу. Хоэль предположил, что подобный дропаут может быть не только рукотворным, как в обучении ИИ специалистами, но и природным.

Мозг человека в нормальных условиях не способен полностью отключиться от реальности и перестать ее воспринимать. То есть обучаться. Поэтому во снах он специально создает вроде бы знакомые ситуации, но в них присутствуют искажения. Если мы запоминаем такие сновидения, для нас они выглядят странным бредом. А на уровне нейронных связей — это необходимое расслабление, направляющее непрерывное обучение по более общему пути. В результате мозг меньше зацикливается на однообразных ситуациях и получает возможность анализировать общую картину.

Безусловно, гипотеза Хоэля объясняет лишь один тип сновидений и требует многократной проверки. Но она делает это впечатляюще хорошо, и ей даже есть несколько косвенных подтверждений. Как отмечает портал Neuroscience News, недавно нейрофизиологи достоверно установили, что самый верный способ вызвать определенные сны — многократно повторять новое для человека занятие при бодрствовании. По мнению Эрика, это хороший пример естественного дропаута: мозг устал от повторяющейся ситуации и срочно разгрузил себя искаженным ее воспроизведением ночью.

Закладка

Скопировать ссылку

Email

Печать

Twitter

VK

Telegram