• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Грядет революция в ИИ: создана новая архитектура нейросетей

Исследователи из ведущих американских институтов представили новую архитектуру нейронной сети Kolmogorov-Arnold Networks (KAN). Она стала альтернативой многослойным перцептронам (MLP) — принципу, разработанному еще в 1957 году.

Нейронная сеть Kolmogorov-Arnold Networks (KAN) / © Ziming Liu 
Нейронная сеть Kolmogorov-Arnold Networks (KAN) / © Ziming Liu 

В отличие от перцептрона (MLP), представляющего упрощенную модель биологической нейронной сети, где в центр поставлена математическая модель восприятия информации мозгом, KAN основана на глубоких математических принципах. А именно — на аппроксимационной теореме советских математиков А. Н. Колмогорова и В. И. Арнольда, или теореме суперпозиции.

Исследователи отметили, что KAN, в отличие от MLP, может обрабатывать новую информацию без катастрофического забывания. Модель постоянно находится в актуальном состоянии, не полагаясь на какую-либо базу данных или переобучение.

KAN выдает ответы во много раз лучше и точнее привычных моделей, однако его обучение требует больших вычислительных мощностей. Новая архитектура может открыть возможности для дальнейшего совершенствования глубокого обучения ИИ.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

3 Комментария

Данил Кныш
1 неделя назад
-
0
+
Ну хз, Эплпай из MLP системы выглядит лучше какой-то KAN. А если серьёзно, то это реально очень многое изменит, хотя монетизировать это получится продавая продукт только в корпусе на мощном железе. Одно дело держать много терабайтную систему, но одну или 2 на сервере для всех, другое что у всех своя система. Никакого места не хватит для каждого уникальную LLM держать. Но это хороший шаг к сильному ИИ и уже очень близко к человеку.
Евгений Бураков
1 неделя назад
-
0
+
АЦП рулит \о/
getech
2 недели назад
-
0
+
«Математическая модель восприятия информации мозгом» - а каким способом происходит вход данных этой информации, или ИИ с датчиками видео распознания, звукораспознания, обоняния, осязания и т.д. или имеется ввиду лишь текстовая информация?
15 мая
НИУ ВШЭ

Международный коллектив исследователей при участии ученых из Института когнитивных нейронаук НИУ ВШЭ изучил, как выбор иностранного языка влияет на когнитивные способности человека. Оказалось, что языки, непохожие на родной, стимулируют когнитивную функцию на начальном этапе их изучения, а близкие к родному имеют отложенный эффект и помогают мозгу эффективнее работать при более высоком уровне владения иностранным языком.

Позавчера, 10:39
Даниил Сухинов

Что заставляет одних животных быть моногамными, иметь на протяжении жизни только одного партнера и ухаживать за потомством, в то время как другие близкородственные виды не стеснены подобными рамками и могут вести беспорядочную половую жизнь? Исследователи из США и Канады, вероятно, нашли ответ на этот вопрос — по крайней мере для двух видов хомячков.

Сегодня, 12:12
Игорь Байдов

Не успели утихнуть разговоры об испытании нового британского лазерного оружия, как правительство этой страны выпустило очередной пресс-релиз, в котором рассказало о работе над еще одной установкой против беспилотников. Эксперты считают, что это оружие — альтернатива дорогостоящим ракетам. Стоимость выстрела из него составит чуть больше 10 центов.

15 мая
НИУ ВШЭ

Международный коллектив исследователей при участии ученых из Института когнитивных нейронаук НИУ ВШЭ изучил, как выбор иностранного языка влияет на когнитивные способности человека. Оказалось, что языки, непохожие на родной, стимулируют когнитивную функцию на начальном этапе их изучения, а близкие к родному имеют отложенный эффект и помогают мозгу эффективнее работать при более высоком уровне владения иностранным языком.

13 мая
Александр Березин

Десятки лет назад ученые выдвинули гипотезу, что облик рода Homo возник под действием специфической задачи: добычи дичи с помощью бега. Несмотря на общую логичность этой версии, против нее выдвигали ряд контраргументов: бег энергозатратен, да и примеров «беговой охоты» в XX веке не столь много. Похоже, теперь оба эти возражения снимаются.

15 мая
Игорь Байдов

Несколько лет назад ученые открыли белый карлик, вращающийся вокруг солнцеподобной звезды в системе KIC 8145411. После ряда спектроскопических исследований выяснилось, что этот объект очень «легкий». В свою очередь, компьютерное моделирование показало, что маломассивные белые карлики в такого рода системах существовать не могут. После нового анализа американские астрономы, наконец, объяснили этот феномен.

24 апреля
Ольга Иванова

Ученые из Австралии и Канады пришли к выводу, что подавляющее большинство одиноких людей не вступает в романтические отношения из-за страха. С одной стороны ими руководят опасения, что их отвергнут, с другой — что они потеряют свою независимость.

15 мая
НИУ ВШЭ

Международный коллектив исследователей при участии ученых из Института когнитивных нейронаук НИУ ВШЭ изучил, как выбор иностранного языка влияет на когнитивные способности человека. Оказалось, что языки, непохожие на родной, стимулируют когнитивную функцию на начальном этапе их изучения, а близкие к родному имеют отложенный эффект и помогают мозгу эффективнее работать при более высоком уровне владения иностранным языком.

3 мая
Василий Парфенов

Ледяной покров Антарктики претерпевает значительные изменения на протяжении года, и его поведение хорошо изучено в общем. Но некоторые локальные аномалии объяснить не получается вот уже несколько десятилетий. Одна из них — полынья возвышения Мод, или полынья моря Уэдделла, которая появляется нерегулярно на одном и том же месте. Международная команда океанологов, наконец, смогла разгадать механизмы ее образования.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно