Работа с нейросетями помогла объяснить странные сны «гипотезой переобученного мозга» — Naked Science
6 минут
Василий Парфенов

Работа с нейросетями помогла объяснить странные сны «гипотезой переобученного мозга»

3.4

Существование снов во всех смыслах будоражит умы человечества уже много тысячелетий. И пока любители эзотерики находили самые разные волшебные объяснения ночным грезам, ученые издревле пытались понять реальное предназначение этих артефактов сознания. Прогресс в подобных начинаниях, бесспорно, достигнут, однако неизведанного по-прежнему немало. Новая гипотеза американского специалиста по нейронаукам предлагает взглянуть на поведение спящего мозга через призму опыта обучения нейросетей — оказывается, у этих процессов много общего.

Работа с нейросетями помогла объяснить странные сны «гипотезой переобученного мозга»
©Warner Bros. Pictures

Эрик Хоэль (Erik Hoel) из Университета Тафтса (США) опубликовал в рецензируемом научном журнале Cell описание своей «гипотезы переобученного мозга» (The overfitted brain hypothesis). Он считает, что центральный орган человеческой нервной системы использует сновидения в качестве инструмента, позволяющего обобщать полученный опыт, а не замыкаться на конкретных типовых ситуациях. Происходит это путем создания как можно более странных образов, вносящих серьезные изменения в знакомую картину. Таким образом мозг отвлекается от однообразных повторяющихся событий или явлений и поддерживает себя в тонусе — готовым к реакции на изменяющуюся обстановку.

Аналогичный эффект переобучения (overfitting) возникает при тренировке нейросетей. Дело в следующем: обученный на определенной выборке алгоритм может настолько сильно «привыкнуть» к ней, что станет хуже работать на реальных примерах, чем должен. То есть модель будет почти идеально объяснять примеры из обучения, но экстраполировать ее «навык» эффективно не получится. А это вообще-то основная цель при создании нейросетей. Чтобы избежать переобучения, применяют так называемое исключение (dropout) — внедрение некоторого количества хаоса в обучающую выборку.

Например, в набор реальных фотографий, по которым тренируют алгоритм автомобильного автопилота, вносят изображения с намеренными искажениями. Это могут быть черные прямоугольники, закрывающие какие-то элементы картинки, или вовсе вырванные из контекста образы. В результате нейросеть создает такие связи, которые обходят незначительные препятствия к восприятию реальной картины. То есть становится ближе к человеческому мозгу. Хоэль предположил, что подобный дропаут может быть не только рукотворным, как в обучении ИИ специалистами, но и природным.

Мозг человека в нормальных условиях не способен полностью отключиться от реальности и перестать ее воспринимать. То есть обучаться. Поэтому во снах он специально создает вроде бы знакомые ситуации, но в них присутствуют искажения. Если мы запоминаем такие сновидения, для нас они выглядят странным бредом. А на уровне нейронных связей — это необходимое расслабление, направляющее непрерывное обучение по более общему пути. В результате мозг меньше зацикливается на однообразных ситуациях и получает возможность анализировать общую картину.

Безусловно, гипотеза Хоэля объясняет лишь один тип сновидений и требует многократной проверки. Но она делает это впечатляюще хорошо, и ей даже есть несколько косвенных подтверждений. Как отмечает портал Neuroscience News, недавно нейрофизиологи достоверно установили, что самый верный способ вызвать определенные сны — многократно повторять новое для человека занятие при бодрствовании. По мнению Эрика, это хороший пример естественного дропаута: мозг устал от повторяющейся ситуации и срочно разгрузил себя искаженным ее воспроизведением ночью.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Вчера, 14:46
5 минут
Илья Ведмеденко

Снимки демонстрируют интерьер новой российской атомной многоцелевой субмарины — К-561 «Казань», принадлежащей к проекту 885М «Ясень-М».

Вчера, 11:25
55 минут
Александр Березин

Два миллиона лет назад планета вошла в состояние крайне необычной неустойчивости. Раз за разом она стирала экосистемы Африки с лица земли, отчего наши предки снова и снова оказывались в сложном положении. Семьдесят тысяч лет назад их число сократилось в десять раз — ударил другой, совершенно неожиданный фактор. Пару сотен тысяч лет назад не только человечество, но вообще все наземные виды могли погибнуть от еще более разрушительной силы. 12,9 тысячи лет назад множество людей умерли и миллионы квадратных километров полностью выгорели из-за взрывов в атмосфере и огненного дождя. Как именно наш вид пережил все это?

Позавчера, 16:35
8 минут
Мария Азарова

Шотландские исследователи провели когортный анализ: они сравнили риск госпитализации при заражении индийским и британским штаммами коронавируса, а также определили, кого вариант из Индии поражает чаще всего.

Вчера, 14:46
5 минут
Илья Ведмеденко

Снимки демонстрируют интерьер новой российской атомной многоцелевой субмарины — К-561 «Казань», принадлежащей к проекту 885М «Ясень-М».

Вчера, 11:25
55 минут
Александр Березин

Два миллиона лет назад планета вошла в состояние крайне необычной неустойчивости. Раз за разом она стирала экосистемы Африки с лица земли, отчего наши предки снова и снова оказывались в сложном положении. Семьдесят тысяч лет назад их число сократилось в десять раз — ударил другой, совершенно неожиданный фактор. Пару сотен тысяч лет назад не только человечество, но вообще все наземные виды могли погибнуть от еще более разрушительной силы. 12,9 тысячи лет назад множество людей умерли и миллионы квадратных километров полностью выгорели из-за взрывов в атмосфере и огненного дождя. Как именно наш вид пережил все это?

Позавчера, 16:35
8 минут
Мария Азарова

Шотландские исследователи провели когортный анализ: они сравнили риск госпитализации при заражении индийским и британским штаммами коронавируса, а также определили, кого вариант из Индии поражает чаще всего.

24 мая
23 минуты
Ольга Иванова

«Сексуальную революцию совершили задние сиденья автомобилей», – заявил в свое время американский общественный деятель Джерри Рубин. И ошибся. Раскрепощение нравов происходило задолго до появления машин, причем много раз. Оно напоминает движение маятника. Как и почему вершились «секшал революшнс» и стоим ли мы на пороге нового витка сексуальности или же нас ждет ужесточение морали? Об этом – в нашем материале.

9 июня
4 минуты
Ольга Иванова

Международная команда исследователей изучила геологию и условия существования самого большого моря в истории планеты — Паратетиса.

27 мая
51 минута
Александр Березин

Хотя в прессе много пишут об исключительно редких «побочках» от вакцин, практика показывает, что бояться надо совсем другого. Самым страшным врагом привитого остается... коронавирус. Даже после вакцин Pfizer или Moderna от него иногда умирают — и подобных случаев уже сотни. Разумеется, среди непривитых таких на порядки больше, но погибшим и членам их семей от этого не легче. Еще хуже то, что две из трех российских вакцин, похоже, защищают от ковида намного слабее Pfizer и Moderna. Это довольно странно с учетом того, что третий российский препарат в этом плане не уступает западным аналогам. Почему российские власти финансируют миллионные тиражи слабой вакцины, имея в распоряжении вполне полноценную?

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: