• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Грядет революция в ИИ: создана новая архитектура нейросетей

Исследователи из ведущих американских институтов представили новую архитектуру нейронной сети Kolmogorov-Arnold Networks (KAN). Она стала альтернативой многослойным перцептронам (MLP) — принципу, разработанному еще в 1957 году.

Нейронная сеть Kolmogorov-Arnold Networks (KAN) / © Ziming Liu 
Нейронная сеть Kolmogorov-Arnold Networks (KAN) / © Ziming Liu 

В отличие от перцептрона (MLP), представляющего упрощенную модель биологической нейронной сети, где в центр поставлена математическая модель восприятия информации мозгом, KAN основана на глубоких математических принципах. А именно — на аппроксимационной теореме советских математиков А. Н. Колмогорова и В. И. Арнольда, или теореме суперпозиции.

Исследователи отметили, что KAN, в отличие от MLP, может обрабатывать новую информацию без катастрофического забывания. Модель постоянно находится в актуальном состоянии, не полагаясь на какую-либо базу данных или переобучение.

KAN выдает ответы во много раз лучше и точнее привычных моделей, однако его обучение требует больших вычислительных мощностей. Новая архитектура может открыть возможности для дальнейшего совершенствования глубокого обучения ИИ.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

3 Комментария

Данил Кныш
1 неделя назад
-
0
+
Ну хз, Эплпай из MLP системы выглядит лучше какой-то KAN. А если серьёзно, то это реально очень многое изменит, хотя монетизировать это получится продавая продукт только в корпусе на мощном железе. Одно дело держать много терабайтную систему, но одну или 2 на сервере для всех, другое что у всех своя система. Никакого места не хватит для каждого уникальную LLM держать. Но это хороший шаг к сильному ИИ и уже очень близко к человеку.
Евгений Бураков
2 недели назад
-
0
+
АЦП рулит \о/
getech
2 недели назад
-
0
+
«Математическая модель восприятия информации мозгом» - а каким способом происходит вход данных этой информации, или ИИ с датчиками видео распознания, звукораспознания, обоняния, осязания и т.д. или имеется ввиду лишь текстовая информация?
Предстоящие мероприятия
Позавчера, 11:18
Полина Меньшова

При гипертонии пациентам рекомендуют аэробные тренировки, включающие в себя, например, ходьбу, бег, танцы, езду на велосипеде. Но такая физическая нагрузка положительно влияет на артериальное давление только в вечернее время, выяснили физиологи из Бразилии и США.

10 часов назад
Полина Меньшова

Британский учитель географии Грэм Сеньор работал в саду и случайно обнаружил в земле небольшой прямоугольный камень. Оказалось, что на артефакте высечен текст, написанный с помощью древнего кельтского алфавита огам.

Вчера, 17:46
Александр Березин

Миссия NS-25 стала первой после длительной приостановки полетов New Shepard — полностью многоразового суборбитального носителя и корабля. Джефф Безос, владелец Amazon, 24 года назад создавший компанию Blue Origin, некогда планировал, что этот носитель станет базой для серьезной выручки от космического туризма.

Позавчера, 11:18
Полина Меньшова

При гипертонии пациентам рекомендуют аэробные тренировки, включающие в себя, например, ходьбу, бег, танцы, езду на велосипеде. Но такая физическая нагрузка положительно влияет на артериальное давление только в вечернее время, выяснили физиологи из Бразилии и США.

10 часов назад
Полина Меньшова

Британский учитель географии Грэм Сеньор работал в саду и случайно обнаружил в земле небольшой прямоугольный камень. Оказалось, что на артефакте высечен текст, написанный с помощью древнего кельтского алфавита огам.

Вчера, 17:46
Александр Березин

Миссия NS-25 стала первой после длительной приостановки полетов New Shepard — полностью многоразового суборбитального носителя и корабля. Джефф Безос, владелец Amazon, 24 года назад создавший компанию Blue Origin, некогда планировал, что этот носитель станет базой для серьезной выручки от космического туризма.

24 апреля
Ольга Иванова

Ученые из Австралии и Канады пришли к выводу, что подавляющее большинство одиноких людей не вступает в романтические отношения из-за страха. С одной стороны ими руководят опасения, что их отвергнут, с другой — что они потеряют свою независимость.

15 мая
НИУ ВШЭ

Международный коллектив исследователей при участии ученых из Института когнитивных нейронаук НИУ ВШЭ изучил, как выбор иностранного языка влияет на когнитивные способности человека. Оказалось, что языки, непохожие на родной, стимулируют когнитивную функцию на начальном этапе их изучения, а близкие к родному имеют отложенный эффект и помогают мозгу эффективнее работать при более высоком уровне владения иностранным языком.

3 мая
Василий Парфенов

Ледяной покров Антарктики претерпевает значительные изменения на протяжении года, и его поведение хорошо изучено в общем. Но некоторые локальные аномалии объяснить не получается вот уже несколько десятилетий. Одна из них — полынья возвышения Мод, или полынья моря Уэдделла, которая появляется нерегулярно на одном и том же месте. Международная команда океанологов, наконец, смогла разгадать механизмы ее образования.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно