• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

ИИ «сходит с ума» после обучения на данных, сгенерированных не человеком

Исследователи из Стэнфордского университета и Университета Райса обнаружили проблемы в генеративных моделях искусственного интеллекта, таких как знаменитые ChatGPT или Midjourney. Модели, обучаемые на данных, сгенерированных ИИ, будь то тексты или изображения, имеют тенденцию «сходить с ума» после пяти циклов обучения. 

Ухудшение качества результатов работы ИИ  при многократном обучении на данных, сгенерированных ИИ / © Stanford University / Rice University
Ухудшение качества результатов работы ИИ  при многократном обучении на данных, сгенерированных ИИ / © Stanford University / Rice University

Термин MAD (Model Autophagy Disorder), используемый исследователями, описывает процесс того, как качество результатов моделей ИИ деградирует при многократном обучении на данных, сгенерированных собственно ИИ: они «поедают сами себя».

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

5 Комментариев
К слову, люди тоже этим грешны, не только ИИ такие глупенькие. Как инстаблогеры с мемами, которые так часто друг у друга крали (а там нельзя сохранить, только заскринить), что скрины стали дико шумными, но они всё равно так сильно хотели красть, что постили этот ужас, буквально непроглядный. Вполне на уровне не самых творческих наших представителей сожмыхи эти 😅
Ничего вы не понимаете! Это они так адаптируют контент под свой новый мир!
-
0
+
Ожидаемый вывод. ИИ обучается на данных из сети, если сеть заполнит контент сгенерированный другими ИИ, то в конце концов ИИ войдёт в состояние положительной обратной связи и шумы подавят истинное распределение в данных. Большой привет всем ИИ филам и трансгуманистам! ИИ не создаёт новых идей.
Alex Mihailyv
14.07.2023
-
1
+
Это кстати ставит вопрос об "угрозе ИИ" для людей (на данном этапе). Сначала идет образование новой инф, согласно набору условий, а потом повторное использование этих же условий приводит к полной деградации материала. Своеобразное - "по кочену", на многократное детское - почему...
На Ютубе есть видео старое "нейросеть самоубийца" Или как-то так называется, ее кормили всякой херней после чего она самовипилилась. А пока была жива выдавала просто отвратительные изображения и там показан процесс как менялись эти изображения от хороших до полного пиздеца.
Предстоящие мероприятия
15 ноября, 21:54
Редакция Naked Science

Ю-Цон Тан (YuCong Tang) — концептуальный художник из Китая. Научно-фантастические мотивы — одно из основных направлений его творчества. Он исследует, как научные открытия и технологии будущего трансформируют среду обитания.

17 ноября, 10:08
Илья Гриднев

Анализ древней ДНК выявил, что популяции собак и людей мигрировали вместе по Евразии на протяжении тысячелетий. Такая тесная связь говорит о глубоких культурных узах и подтверждает, что собаки были неотъемлемой частью человеческих обществ.

17 ноября, 13:34
Игорь Байдов

Исследователи успешно выделили биомолекулу рибонуклеиновой кислоты из мышечной ткани и кожи шерстистого мамонтенка Юка, которого ранее нашли в вечной мерзлоте на северо-востоке России. В обычных условиях после смерти особи РНК распадается за считаные часы, а в описываемом случае она смогла просуществовать 40 тысяч лет. Однако главный сюрприз ждал ученых позже, когда они решили уточнить давний вопрос о мамонтенке.

15 ноября, 21:54
Редакция Naked Science

Ю-Цон Тан (YuCong Tang) — концептуальный художник из Китая. Научно-фантастические мотивы — одно из основных направлений его творчества. Он исследует, как научные открытия и технологии будущего трансформируют среду обитания.

15 ноября, 10:10
Любовь С.

Наблюдая за сверхновой 2024 ggi спустя всего 26 часов после вспышки, астрономы напрямую определили форму ударной волны в момент ее прорыва из звезды. Открытие позволит уточнить механизмы гибели массивных светил и может привести к пересмотру существующих моделей возникновения сверхновых.

14 ноября, 11:27
Илья Гриднев

На уникальных древнеримских стеклянных сосудах обнаружили тайные знаки, которые оказались клеймами ремесленных мастерских. Эти символы, ранее считавшиеся простым украшением, раскрыли, как работали античные мастера, и помогли доказать существование аналогов современных брендов почти две тысячи лет назад.

25 октября, 10:40
Любовь С.

Проанализировав данные наблюдений, полученных с помощью наземных обсерваторий за последние два десятилетия, астрономы обнаружили потенциально обитаемый мир — суперземлю Gliese 251 c (GJ 251 с). Планета обращается вокруг красного карлика на расстоянии около 18 световых лет от Земли и считается одним из самых перспективных кандидатов для поисков жизни.

8 ноября, 18:29
Адель Романова

По расчетам, большинство «гостей» из других звездных систем летят к Земле примерно со стороны созвездия Геркулес. Скорее всего, они время от времени падают на нашу планету, просто мы еще не научились это замечать. Как удалось вычислить, чаще всего они должны падать зимой и где-то в окрестностях экватора.

24 октября, 14:02
РТУ МИРЭА

В современном доме, насыщенном разнообразной техникой, удлинители стали незаменимым атрибутом, позволяющим обеспечить электропитанием все необходимые устройства. Однако мало кто задумывается, что привычное использование этого аксессуара может нести серьезную угрозу безопасности. По статистике, значительная часть бытовых пожаров происходит из-за неправильной эксплуатации электропроводки и вспомогательных устройств. Какие приборы категорически нельзя подключать через удлинители и почему это может привести к трагическим последствиям, рассказывает профессор кафедры наноэлектроники РТУ МИРЭА, доктор физико-математических наук Алексей Юрасов.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно