• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

ИИ «сходит с ума» после обучения на данных, сгенерированных не человеком

Исследователи из Стэнфордского университета и Университета Райса обнаружили проблемы в генеративных моделях искусственного интеллекта, таких как знаменитые ChatGPT или Midjourney. Модели, обучаемые на данных, сгенерированных ИИ, будь то тексты или изображения, имеют тенденцию «сходить с ума» после пяти циклов обучения. 

Ухудшение качества результатов работы ИИ  при многократном обучении на данных, сгенерированных ИИ / © Stanford University / Rice University
Ухудшение качества результатов работы ИИ  при многократном обучении на данных, сгенерированных ИИ / © Stanford University / Rice University

Термин MAD (Model Autophagy Disorder), используемый исследователями, описывает процесс того, как качество результатов моделей ИИ деградирует при многократном обучении на данных, сгенерированных собственно ИИ: они «поедают сами себя».

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

5 Комментариев
К слову, люди тоже этим грешны, не только ИИ такие глупенькие. Как инстаблогеры с мемами, которые так часто друг у друга крали (а там нельзя сохранить, только заскринить), что скрины стали дико шумными, но они всё равно так сильно хотели красть, что постили этот ужас, буквально непроглядный. Вполне на уровне не самых творческих наших представителей сожмыхи эти 😅
Ничего вы не понимаете! Это они так адаптируют контент под свой новый мир!
Ожидаемый вывод. ИИ обучается на данных из сети, если сеть заполнит контент сгенерированный другими ИИ, то в конце концов ИИ войдёт в состояние положительной обратной связи и шумы подавят истинное распределение в данных. Большой привет всем ИИ филам и трансгуманистам! ИИ не создаёт новых идей.
Alex Mihailyv
14.07.2023
Это кстати ставит вопрос об "угрозе ИИ" для людей (на данном этапе). Сначала идет образование новой инф, согласно набору условий, а потом повторное использование этих же условий приводит к полной деградации материала. Своеобразное - "по кочену", на многократное детское - почему...
На Ютубе есть видео старое "нейросеть самоубийца" Или как-то так называется, ее кормили всякой херней после чего она самовипилилась. А пока была жива выдавала просто отвратительные изображения и там показан процесс как менялись эти изображения от хороших до полного пиздеца.
Предстоящие мероприятия
7 августа, 08:30
Александр Березин

Авторы новой работы утверждают, что общий предок всего живого (LUCA) по сути не был свободноживущим организмом. А его потомки, чтобы стать такими, пошли двумя принципиально разными путями, образовав две принципиально разные группы существ.

6 августа, 15:15
Максим Абдулаев

Палеонтологи из Германии и Австралии предположили, что одной из причин кембрийского взрыва стало появление плотного кала во время эволюции. В отличие от растворенной органики, фекалии быстро тонули, доставляя питательные вещества в глубоководные зоны. Эта линия доставки породила копрофагию (поедание экскрементов) и создала новые экологические ниши на глубине древних морей. Это и запустило цепную реакцию, известную как кембрийский взрыв.

7 августа, 13:39
Марк Чернов

Эксперименты показали, какие именно особые нейроны-регуляторы связывают ожидание награды с готовностью продолжать работу. Причем их отключение резко снижает настойчивость в достижении цели.

4 августа, 12:03
Александр Березин

Остров Пекан недалеко от Мексиканского залива в Луизиане вскоре перейдет в собственность компании Илона Маска. Здесь будет новый космодром для Starship, почти в 20 раз больше, чем в Бока-Чике, где уже стоят две стартовых площадки. Уникальное местоположение позволит компании попытаться реализовать амбициозную цель о запуске миллиона низкоорбитальных спутников на орбиты, где сегодня находится подавляющее меньшинство спутников Земли.

5 августа, 10:09
Александр Березин

Хотя тротиловый эквивалент взрыва от удара был умеренным, всего несколько тонн, благодаря рыхлости лунного грунта низких широт он может поднять до 400 тонн пыли. Она способна образовать облако высотой в десятки километров. Астрономы надеются провести наблюдения этого события и, возможно, зафиксировать какие-то особенности выброшенного лунного материала.

1 августа, 20:27
Evgenia Vavilova

Команда исследователей из Германии и Турции впервые исследовала ледник на вершине Большого Арарата на высоте более пяти тысяч метров. Две недели в июле 2026 года ученые собирали данные о вечных снегах горы, которые до этого не были тщательно исследованы.

31 июля, 14:12
Андрей Серегин

Долгое время считалось, что до прихода европейцев тропические леса Амазонии были заселены сравнительно плохо. Однако выяснилось, что плотная растительность скрывает большинство следов древних обществ. С помощью воздушного лазерного сканирования ученые обнаружили сотни неизвестных земляных сооружений и предположили, что около двух тысяч лет назад население юго-западной части Амазонии могло достигать трех миллионов человек.

9 июля, 13:06
Редакция Naked Science

Видеосервисы стали неотъемлемой частью жизни россиян. В 2026 году охваты большинства платформ продолжают расти, в том числе YouTube.

19 июля, 20:09
Александр Березин

Очереди на заправках стали привычным явлением в России, а на фоне информационного вакуума от властей о конкретных показателях производства бензина в июне население вынуждено ориентироваться на слухи. Все это выглядит довольно странно, но есть нюанс: скорее всего, кризис уже начинает выдыхаться. Как именно мы это выяснили?

[miniorange_social_login]