• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Грядет революция в ИИ: создана новая архитектура нейросетей

Исследователи из ведущих американских институтов представили новую архитектуру нейронной сети Kolmogorov-Arnold Networks (KAN). Она стала альтернативой многослойным перцептронам (MLP) — принципу, разработанному еще в 1957 году.

Нейронная сеть Kolmogorov-Arnold Networks (KAN) / © Ziming Liu 
Нейронная сеть Kolmogorov-Arnold Networks (KAN) / © Ziming Liu 

В отличие от перцептрона (MLP), представляющего упрощенную модель биологической нейронной сети, где в центр поставлена математическая модель восприятия информации мозгом, KAN основана на глубоких математических принципах. А именно — на аппроксимационной теореме советских математиков А. Н. Колмогорова и В. И. Арнольда, или теореме суперпозиции.

Исследователи отметили, что KAN, в отличие от MLP, может обрабатывать новую информацию без катастрофического забывания. Модель постоянно находится в актуальном состоянии, не полагаясь на какую-либо базу данных или переобучение.

KAN выдает ответы во много раз лучше и точнее привычных моделей, однако его обучение требует больших вычислительных мощностей. Новая архитектура может открыть возможности для дальнейшего совершенствования глубокого обучения ИИ.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

3 Комментария

Данил Кныш
1 неделя назад
-
0
+
Ну хз, Эплпай из MLP системы выглядит лучше какой-то KAN. А если серьёзно, то это реально очень многое изменит, хотя монетизировать это получится продавая продукт только в корпусе на мощном железе. Одно дело держать много терабайтную систему, но одну или 2 на сервере для всех, другое что у всех своя система. Никакого места не хватит для каждого уникальную LLM держать. Но это хороший шаг к сильному ИИ и уже очень близко к человеку.
Евгений Бураков
2 недели назад
-
0
+
АЦП рулит \о/
getech
2 недели назад
-
0
+
«Математическая модель восприятия информации мозгом» - а каким способом происходит вход данных этой информации, или ИИ с датчиками видео распознания, звукораспознания, обоняния, осязания и т.д. или имеется ввиду лишь текстовая информация?
Позавчера, 12:12
Игорь Байдов

Не успели утихнуть разговоры об испытании нового британского лазерного оружия, как правительство этой страны выпустило очередной пресс-релиз, в котором рассказало о работе над еще одной установкой против беспилотников. Эксперты считают, что это оружие — альтернатива дорогостоящим ракетам. Стоимость выстрела из него составит чуть больше 10 центов.

Позавчера, 11:04
Ольга Иванова

Умение пользоваться орудиями труда у морских выдр известно давно, однако реальную пользу для их организма измерить непросто. Американские ученые впервые узнали, какие преимущества дает выдрам такой подход. Особенно это касается самок.

Вчера, 11:18
Полина Меньшова

При гипертонии пациентам рекомендуют аэробные тренировки, включающие в себя, например, ходьбу, бег, танцы, езду на велосипеде. Но такая физическая нагрузка положительно влияет на артериальное давление только в вечернее время, выяснили физиологи из Бразилии и США.

14 мая
Ольга Иванова

Международная группа исследователей пришла к выводу, что месть — куда более положительное явление для многих, чем может показаться на первый взгляд. Правда, важны условия ее свершения.

13 мая
Дарья Г.

Нужна ли темная материя для объяснения движения космических тел? Видимо, все же нужна. Астрофизики попробовали «помирить» альтернативную гипотезу с наблюдениями в окрестностях Солнечной системы и даже внутри нее — с орбитой Сатурна. Для фанатов MOND результаты оказались неутешительными.

14 мая
Полина Меньшова

Китай стал первой страной, где малоподвижный образ жизни детей и подростков ограничили на государственном уровне. В результате школьники стали посвящать меньше времени неактивным занятиям.

24 апреля
Ольга Иванова

Ученые из Австралии и Канады пришли к выводу, что подавляющее большинство одиноких людей не вступает в романтические отношения из-за страха. С одной стороны ими руководят опасения, что их отвергнут, с другой — что они потеряют свою независимость.

15 мая
НИУ ВШЭ

Международный коллектив исследователей при участии ученых из Института когнитивных нейронаук НИУ ВШЭ изучил, как выбор иностранного языка влияет на когнитивные способности человека. Оказалось, что языки, непохожие на родной, стимулируют когнитивную функцию на начальном этапе их изучения, а близкие к родному имеют отложенный эффект и помогают мозгу эффективнее работать при более высоком уровне владения иностранным языком.

3 мая
Василий Парфенов

Ледяной покров Антарктики претерпевает значительные изменения на протяжении года, и его поведение хорошо изучено в общем. Но некоторые локальные аномалии объяснить не получается вот уже несколько десятилетий. Одна из них — полынья возвышения Мод, или полынья моря Уэдделла, которая появляется нерегулярно на одном и том же месте. Международная команда океанологов, наконец, смогла разгадать механизмы ее образования.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно