Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Генеративным моделям ИИ предрекли потерю связи с реальностью
Многие компании по всему миру активно используют технологию генеративного ИИ (GPT, Stable Diffusion, Midjourney и так далее) для работы, создания контента и продукции. Данные, на основе которых искусственный интеллект генерирует новые тексты или изображения, были созданы людьми, но с ростом числа ИИ появится все больше контента, созданного самими машинами.
Что случится, когда генеративные модели станут обучаться на материалах, созданных их собратьями? На этот вопрос ответили исследователи из Великобритании и Канады.
Проанализировав проблему, ученые пришли к выводу: «Обучение на основе данных, созданных другими моделями, вызовет коллапс моделей — процесс вырождения, при котором со временем модели забудут настоящее распределение данных. <…> Этот процесс неизбежен даже в случаях с почти идеальными условиями для долгосрочного обучения».
То есть постепенно ошибки в моделях будут накапливаться и станут воспринимать реальность все менее адекватно. Например, модель обучили на наборе данных из 100 котов: десять из них были с голубой шерстью, 90 — с рыжей. Модель понимает, что рыжие коты встречаются чаще, но также представляет голубых котов более желтоватыми, выдавая иногда результаты с зелеными котами, когда ее просят создать новые данные.
Со временем оригинальная черта — голубой мех — «выветривается» в повторяющихся циклах: от голубого к зеленому, от зеленого к желтому. Это постепенное растворение и потеря минорных характеристик и есть коллапс модели.
Есть ли возможность избежать краха? Авторы исследования предложили несколько решений этой проблемы, среди них — сохранение копии оригинального набора данных, созданного исключительно или номинально человеком, и избегание загрязнения данными, сгенерированными ИИ. А также введение в обучение ИИ новых, чистых, сгенерированных человеком наборов данных.
После аварии на АЭС «Фукусима-1» часть сельскохозяйственных земель на годы осталась без ухода, и исследователи проверили, как это сказалось на местных опылителях. На участках в зонах эвакуации они обнаружили больше некоторых пчел, но связали это с изменением землепользования, а не с пользой радиации.
Новые ископаемые находки из Южной Африки подтвердили, что человек прямоходящий — наш прямой предок — существовал уже два миллиона лет назад. Также ученые раскрыли уникальные детали того, как он приспосабливался к жизни и соперничал с сородичами.
Планетологи давно пытаются разгадать тайну образования самого необычного облака на Марсе, длина которого может достигать примерно двух тысяч километров. Авторы нового исследования сопоставили данные европейского орбитального аппарата Mars Express с компьютерной моделью атмосферы Красной планеты и пришли к выводу, что оно возникает благодаря редкому физическому процессу.
Физики впервые обнаружили, что один из самых классических типов сверхпроводников — соединение YbSb₂ — способен нарушать общепринятое правило физики об «обратимости времени». Раньше ученые считали, что подобным странным свойством обладают только редкие и сложные материалы. Это открытие показывает, что необычные квантовые явления могут скрываться и в гораздо более простых сверхпроводящих соединениях.
Планетологи давно пытаются разгадать тайну образования самого необычного облака на Марсе, длина которого может достигать примерно двух тысяч километров. Авторы нового исследования сопоставили данные европейского орбитального аппарата Mars Express с компьютерной моделью атмосферы Красной планеты и пришли к выводу, что оно возникает благодаря редкому физическому процессу.
Творческие профессии часто объединяют в одну группу, когда изучают их связь с психическим здоровьем. Однако исследование почти 15 тысяч шведских близнецов показало, что художественные достижения чаще сочетались с психическими проблемами, а научные —нет.
Новый анализ наблюдений за северной полярной областью Марса заставил ученых пересмотреть представления о составе водяного льда. Выяснилось, что прежние модели заметно искажали одну из его главных характеристик. С учетом этого, местный лед потенциально может быть куда полезнее для персонала будущих марсианских баз.
В большинстве случаев планеты и иные тела, вращающиеся вокруг «нормальных» звезд главной последовательности, формируются достаточно далеко от своих светил, чтобы падать на них. Несмотря на это, теперь астрономы увидели, как красный карлик перетягивает на себя вещество от вращающегося вокруг него объекта. Тот уже делает один оборот вокруг своей звезды меньше, чем за полтора часа, и это время может уменьшаться.
Дата-центры для нейросетей в последние пару лет стали важнейшим фактором роста западной экономики, а заодно и мировой энергетики. В этом направлении нейросети создали немало новых рабочих мест, хотя и меньше, чем в программировании. Однако у невиданного бума есть и оборотная сторона: нобелевский лауреат Пол Кругман выяснил, что они буквально выдавливают остальные сектора экономики, забирая у них все больше инвестиций.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно






















