• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Грядет революция в ИИ: создана новая архитектура нейросетей

Исследователи из ведущих американских институтов представили новую архитектуру нейронной сети Kolmogorov-Arnold Networks (KAN). Она стала альтернативой многослойным перцептронам (MLP) — принципу, разработанному еще в 1957 году.

Нейронная сеть Kolmogorov-Arnold Networks (KAN) / © Ziming Liu 
Нейронная сеть Kolmogorov-Arnold Networks (KAN) / © Ziming Liu 

В отличие от перцептрона (MLP), представляющего упрощенную модель биологической нейронной сети, где в центр поставлена математическая модель восприятия информации мозгом, KAN основана на глубоких математических принципах. А именно — на аппроксимационной теореме советских математиков А. Н. Колмогорова и В. И. Арнольда, или теореме суперпозиции.

Исследователи отметили, что KAN, в отличие от MLP, может обрабатывать новую информацию без катастрофического забывания. Модель постоянно находится в актуальном состоянии, не полагаясь на какую-либо базу данных или переобучение.

KAN выдает ответы во много раз лучше и точнее привычных моделей, однако его обучение требует больших вычислительных мощностей. Новая архитектура может открыть возможности для дальнейшего совершенствования глубокого обучения ИИ.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

3 Комментария
Данил Кныш
10.05.2024
-
0
+
Ну хз, Эплпай из MLP системы выглядит лучше какой-то KAN. А если серьёзно, то это реально очень многое изменит, хотя монетизировать это получится продавая продукт только в корпусе на мощном железе. Одно дело держать много терабайтную систему, но одну или 2 на сервере для всех, другое что у всех своя система. Никакого места не хватит для каждого уникальную LLM держать. Но это хороший шаг к сильному ИИ и уже очень близко к человеку.
АЦП рулит \о/
getech
06.05.2024
-
0
+
«Математическая модель восприятия информации мозгом» - а каким способом происходит вход данных этой информации, или ИИ с датчиками видео распознания, звукораспознания, обоняния, осязания и т.д. или имеется ввиду лишь текстовая информация?
Вчера, 16:41
Андрей

Китайские палеонтологи раскопали богатый окаменелостями комплекс, раскрывающий разнообразную пищевую цепь пресноводного озера времен раннего юрского периода. Тысячи находок рыб, среди которых и новые виды, древних родственников акул и даже плезиозавров показали пеструю фауну, сохранившуюся после вымирания почти 200 миллионов лет назад.

21 ноября
Evgenia

Китайские исследователи удерживали изотоп иттербия-173 в состоянии «кота Шредингера» более 20 минут. Эта работа приблизила точность измерений фазового сдвига квантовой системы к теоретически возможному пределу.

Вчера, 10:03
Юлия Трепалина

Постановка верного диагноза порой напоминает детективное расследование. Чтобы найти «преступника» — причину болезни, врачам нередко приходится перебрать множество версий и потенциальных подозреваемых. Об одном таком «деле» недавно рассказали американские медики: им долго не удавалось определить, что вызывало приступы боли в животе у в остальном здоровой 16-летней девушки. В итоге виновником оказалось редкое расстройство под названием синдром Рапунцель.

Вчера, 16:41
Андрей

Китайские палеонтологи раскопали богатый окаменелостями комплекс, раскрывающий разнообразную пищевую цепь пресноводного озера времен раннего юрского периода. Тысячи находок рыб, среди которых и новые виды, древних родственников акул и даже плезиозавров показали пеструю фауну, сохранившуюся после вымирания почти 200 миллионов лет назад.

19 ноября
Андрей

Американские ученые проанализировали данные о поедании фекалий животными, чтобы выяснить, какие причины стоят за этим поведением и какие закономерности можно проследить. В результате они разделили всю выборку более чем из 150 видов на семь категорий по тому, что заставляет зверей питаться таким сомнительным продуктом.

20 ноября
Березин Александр

Несмотря на отмену попытки «экономичной» ловли первой ступени, шестой испытательный полет Starship был успешным. Корабль — вторая ступень системы впервые продемонстрировала возможность маневра на орбите. Первая ступень после приводнения неожиданно для всех смогла пережить два взрыва, не утратив плавучесть. Среди наблюдавших за испытанием был Дональд Трамп.

30 октября
Елизавета Александрова

Под рыжим верхним слоем с виду обычного камня открылся целый калейдоскоп довольно неожиданных оттенков. Это особенно интересно с учетом того, где лежит камень — в марсианском кратере, который по всем признакам когда-то был озером.

16 ноября
Evgenia

Международная коллаборация физиков под руководством ученых из Йельского университета в США представила самые убедительные на сегодня подтверждения существования нового типа сверхпроводящих материалов. Доказательство существования нематической фазы вещества — научный прорыв, открывающий путь к созданию сверхпроводимости совершенно новым способом.

31 октября
Татьяна

Органические молекулы с пи-связью образуют очень устойчивые геометрии, которые не любят нарушаться. В 1924 году немецкий химик Юлиус Бредт сформулировал соответствующий запрет, вошедший в учебники химии. Тем не менее это в некоторых случаях возможно. В новой работе американские исследователи представили несколько «антибредтовских» соединений из класса олефинов.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно