Команда европейских ученых выяснила, как с точки зрения теории информации настроен баланс между возбуждающими и тормозными нейронами, обеспечивающий оптимальную кодировку данных. Они узнали, что нейронные сети, оптимизированные под долгосрочное точное кодирование информации могут быть менее чувствительны к быстрым изменениям входных сигналов.
Слева сверху — два типичных входа информации, один из которых действует в течение длительного времени, а другой — в течение более короткого. Слева снизу — схема модели взаимодействия двух нейронных популяций, возбуждающих (E) и тормозных (I). Справа — оптимальная точка в пространстве параметров для точного кодирования в течение более длительного и более короткого времени / © Giacomo Barzon, Daniel M. Busiello, G. Nicoletti
Мозг обрабатывает информацию с помощью сложных связей между группами нейронов, объединенными в популяцию. В такой общности нейроны находятся в одной области мозга и выполняют похожие функции или имеют общие свойства.
В популяцию входят возбуждающие и тормозные нейроны. Первые передают сигналы и активизируют другие нейроны, а тормозные выполняют функцию балансировки — подавляют активность возбуждающих нейронов, гасят сигналы и стабилизируют нейронные сети. Для нейроинформатики, нейробиологии и медицины важно знать, как именно нейронные связи и их конфигурации влияют на обработку информации.
Международная группа ученых провела исследование вклада возбуждающих и тормозных популяций нейронов в кодирование информации мозгом. Их результаты показывают, что обработка информации становится максимально эффективной, когда активность возбуждающих и тормозных нейронов сбалансирована. Результаты исследования опубликованы в журнале Physical Review Letters.
Исследователи изучали, задействован ли баланс между возбуждающими и тормозными нейронами в чем-то, кроме стабилизации нейронной активности. В частности, команда изучила возможность того, что этот баланс также оптимизирует обработку информации.
«Вдохновленные рядом экспериментальных и теоретических работ, подчеркивающих важность баланса, мы проанализировали модель, которая описывает взаимодействия между этими двумя популяциями, и исследовали — как аналитически, так и численно — их реакцию на внешние сигналы. Мы использовали инструменты теории информации и выявили фундаментальный компромисс: нейронные сети, оптимизированные для точного кодирования информации на длительных временных масштабах, могут быть менее чувствительными к быстрым изменениям входных сигналов», — объяснил Даниэль М. Бузьелло (Daniel M. Busiello).
Ученые использовали математические и теоретические подходы для изучения обработки информации нейронными сетями. Они показали, что процесс становится наиболее эффективным на границе устойчивости — критическом состоянии, при котором активность возбуждающих и тормозных нейронов сбалансирована.
По результатам исследования ученые делают вывод, что тонкая настройка баланса возбуждения и торможения не только стабилизирует активность мозга, но и играет ключевую роль в его способности оптимально кодировать информацию.
Взаимодействия между возбуждением и торможением крайне важны для того, чтобы популяции нейронов могли кодировать информацию об изменяющихся во времени внешних сигналах. Это особенно интересно, поскольку баланс возбуждения и торможения хорошо известен как ключевой элемент регуляции нейронной активности. Описанный в статье подход позволил ученым количественно оценить этот эффект с точки зрения информации как физической величины.
«В реальных нейронных сетях связи не статичны — они развиваются со временем под влиянием как внешних стимулов, так и внутренней активности сети. Эта динамическая природа связей может играть ключевую роль в формировании того, как популяции нейронов обрабатывают и кодируют информацию, потенциально предлагая новые идеи о том, как обучение и адаптивные свойства влияют на кодирование информации в нейронных системах», — пояснил Джакомо Барзон (Giacomo Barzon), первый автор статьи.
Работа ученых открывает новые направления для изучения обработки информации в мозге и лежащих в ее основе нейронных механизмов. В своих следующих исследованиях группа планирует развить результаты, используя тот же подход для изучения более сложных структур связей в мозге.
Комментарии
В машинномм обучении есть понятие "гиперпараметр" - заданный до начала обучения модели. Вероятно, мы имеем дело с биологическим аналогом.