• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

ИИ «сходит с ума» после обучения на данных, сгенерированных не человеком

Исследователи из Стэнфордского университета и Университета Райса обнаружили проблемы в генеративных моделях искусственного интеллекта, таких как знаменитые ChatGPT или Midjourney. Модели, обучаемые на данных, сгенерированных ИИ, будь то тексты или изображения, имеют тенденцию «сходить с ума» после пяти циклов обучения. 

Ухудшение качества результатов работы ИИ  при многократном обучении на данных, сгенерированных ИИ / © Stanford University / Rice University
Ухудшение качества результатов работы ИИ  при многократном обучении на данных, сгенерированных ИИ / © Stanford University / Rice University

Термин MAD (Model Autophagy Disorder), используемый исследователями, описывает процесс того, как качество результатов моделей ИИ деградирует при многократном обучении на данных, сгенерированных собственно ИИ: они «поедают сами себя».

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

5 Комментариев
-
0
+
К слову, люди тоже этим грешны, не только ИИ такие глупенькие. Как инстаблогеры с мемами, которые так часто друг у друга крали (а там нельзя сохранить, только заскринить), что скрины стали дико шумными, но они всё равно так сильно хотели красть, что постили этот ужас, буквально непроглядный. Вполне на уровне не самых творческих наших представителей сожмыхи эти 😅
Ничего вы не понимаете! Это они так адаптируют контент под свой новый мир!
Nibiru Official
14.07.2023
-
0
+
Ожидаемый вывод. ИИ обучается на данных из сети, если сеть заполнит контент сгенерированный другими ИИ, то в конце концов ИИ войдёт в состояние положительной обратной связи и шумы подавят истинное распределение в данных. Большой привет всем ИИ филам и трансгуманистам! ИИ не создаёт новых идей.
Alex Mihailyv
14.07.2023
-
1
+
Это кстати ставит вопрос об "угрозе ИИ" для людей (на данном этапе). Сначала идет образование новой инф, согласно набору условий, а потом повторное использование этих же условий приводит к полной деградации материала. Своеобразное - "по кочену", на многократное детское - почему...
-
0
+
На Ютубе есть видео старое "нейросеть самоубийца" Или как-то так называется, ее кормили всякой херней после чего она самовипилилась. А пока была жива выдавала просто отвратительные изображения и там показан процесс как менялись эти изображения от хороших до полного пиздеца.
Вчера, 19:00
Андрей

Группа антропологов проанализировала более 800 часов видеозаписей, собранных в течение 25 лет наблюдений за небольшой группой шимпанзе в Гвинее. Ученые решили выяснить, различаются ли подходы к добыче пищи у приматов одного сообщества. Оценив их действия по ряду критериев, исследовали обнаружили множество индивидуальных различий в колке орехов: некоторые шимпанзе справлялись значительно быстрее сородичей. Вдобавок выяснилось, что эти обезьяны оттачивают навыки вдвое дольше, чем считалось.

Позавчера, 15:35
Андрей

Американские специалисты изучили больше двух тысяч ископаемых раковин моллюсков неогенового периода и обнаружили среди них уникальные свидетельства неудачной охоты. Две раковины зияли отверстиями, которые хищные улитки просверлили изнутри, то есть их добыча была уже мертвой. Это первые подобные наблюдения, и причин у древних ошибок могло быть несколько: палеонтологи не исключают, что брюхоногие «напали» на пустые раковины с голоду.

Вчера, 15:25
Елизавета Александрова

До сих пор многие ученые считали, что у лунной воды два источника происхождения: немалая доля доставлена с упавшими кометами, но большая часть образовалась на самой Луне под действием частиц солнечного ветра. По итогам недавнего исследования планетологи вынуждены перечеркнуть эту картину. Они заявили, что кометная вода на естественном спутнике Земли действительно есть, но радиация вряд ли сыграла значительную роль. Вместо этого, похоже, главная часть лунной воды происходит из того же материала, из которого сформировалась наша планета.

Позавчера, 15:35
Андрей

Американские специалисты изучили больше двух тысяч ископаемых раковин моллюсков неогенового периода и обнаружили среди них уникальные свидетельства неудачной охоты. Две раковины зияли отверстиями, которые хищные улитки просверлили изнутри, то есть их добыча была уже мертвой. Это первые подобные наблюдения, и причин у древних ошибок могло быть несколько: палеонтологи не исключают, что брюхоногие «напали» на пустые раковины с голоду.

20 декабря
Игорь Байдов

Один из самых знаменитых археологических памятников мира — Стоунхендж — начали возводить на территории современного графства Уилтшир в Англии еще в каменном веке. На протяжении полутора тысяч лет Стоунхендж достраивали и перестраивали, изменяя при этом его планировку. Авторы нового исследования еще раз проанализировали маршрут камней, из которых сложено мегалитическое сооружение, и рассказали, зачем его могли перестроить между 2620-2480 годами до нашей эры, когда в центре сооружения появился Алтарный камень.

20 декабря
Любовь

Чтобы выяснить, связано ли количество ежедневных шагов с депрессией во взрослом возрасте, международная исследовательская группа проанализировала данные 33 исследований, в которых участвовали почти 100 тысяч человек. Результаты показали, что ходьба значительно влияет на психическое здоровье, в том числе снижая риск развития депрессии

28 ноября
Елизавета Александрова

Обсерватории постоянно улавливают «мигающие» радиосигналы из глубин Вселенной. Чаще всего их источниками оказываются нейтронные звезды, которые за это и назвали пульсарами. Но к недавно обнаруженному источнику GLEAM-X J0704-37 они, по мнению астрономов, отношения не имеют.

25 ноября
Полина Меньшова

Многие одинокие люди считают, что окружающие не разделяют их взглядов. Психологи из США решили проверить, так ли это на самом деле, и обнаружили общую особенность у людей с недостаточным количеством социальных связей.

3 декабря
Елизавета Александрова

Американская лунная программа «Артемида» предусматривает экспедиции длительностью от нескольких дней до долгих недель и даже месяцев, но луномобиля для передвижения экипажа по поверхности спутника Земли на сегодня нет. Поэтому космическое агентство США продумывает план действий на случай, если астронавты окажутся далеко от базы и кто-то из них внезапно не сможет идти самостоятельно.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно