• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Технологическая сингулярность отменяется? Закончились данные для обучения ИИ 

Американский миллиардер Илон Маск и бывший главный научный сотрудник OpenAI Илья Суцкевер заявили, что у компаний, занимающихся искусственным интеллектом, закончились данные для обучения генеративных моделей.

Илон Маск / © Getty Images
Илон Маск / © Getty Images

«Мы уже практически исчерпали совокупный объем человеческих знаний <…> в области обучения ИИ. И это произошло в прошлом году», — заявил Маск в разговоре с председателем компании Stagwell Марком Пенном в соцсети X.

Эти слова прозвучали всего через несколько дней после того, как Суцкевер, который помогал создавать ChatGPT, рассказал на ежегодном мероприятии Neurips, что компании достигли пика данных — и больше их не будет.

Если это правда, значит, восполнить дефицит можно с помощью синтетических данных, то есть контента, который производят сами генеративные модели ИИ. Однако этот способ далек от идеала.

Исследователи из Стэнфордского университета и Университета Райса ранее обнаружили, что модели, обучаемые на данных, сгенерированных ИИ, будь то тексты или изображения, имеют тенденцию «сходить с ума» после пяти циклов обучения.

В ноябре прошлого года выяснилось, что OpenAI испытывает трудности со своей новой моделью Orion: она оказалась не такой продвинутой, как надеялись в компании. Аналогично новейшая версия Gemini от Google стала не намного лучше предыдущей. В то же время Anthropic вообще отложила выпуск своей модели Claude.

Напомним, ранее Маск и руководитель OpenAI Сэм Альтман заявляли, что ИИ близок к тому, чтобы превзойти интеллектуальные способности отдельно взятого человека, а потом и интеллект всех людей, вместе взятых. 

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

16 Комментариев
-
0
+
Дайте нейросети механическое тело и возможности взаимодействовать с реал миром. И когда начинается шиза нейросеть будет получать от реального мира неилюзорно по голове. Точно так же как и у людей.
tvbox2a95xf2 K
13.01.2025
-
0
+
В чем проблема генерировать данные с помощью модели, потом фильтровать их ей же и далее обучать новую?!
    -
    0
    +
    tvbox2a95xf2, с каждой интерацией "нейросеть обучает нейросеть" ошибки неправильной интерпретации копятся, "фильтрация" не имеет смысла если фильтрует не кто-то умнее автора данных.
-
0
+
А что вы хотели от массива автоматов построенных на двоичной неспециализированной , многопоточной логике? Если брать ,как пример , нас с вами - то человек однозадачен. Однозадачен в совокупности условных рефлексов, при выполнении относительно незнакомой задачи в сфере его компетенции. ИИ же дергают все лодыри умственного труда, занимая часть мощностей, возможных для построения сравнительных моделей и генерирования алгоритмов возможного их применения. В результате чего требуется все больше данных для ответов в сферах деятельности , диаметрально разнонаправленных. Отака х...ня , малята.
-
1
+
Искусственный интеллект создан? Когда? Вроде как по тех. документации идут нейросети... Ну а студенты со знанием дискретной математики то и не знали.... Но уверен! В этих СМИ интеллект создан и он все потребил! ... Клоуны ... и недостаток фундаментального образования дают о себе знать... Интеллект ... Им в помощь!
    Afro Tray
    13.01.2025
    -
    0
    +
    Артем, ой ну вы утрируете тоже. Ии - это просто громкие заголовки для набора лукасов. А в тексте всегда уточнают про генеративные модели. И да, действительно, человечество нащупало свой потолок данных. Грубо говоря openai выкачали весь интернет, знания в котором копились 50 лет. А контент для знаний копился тысячилетия. За год-два не появится столько новых данных, что бы с нынещними алгоритмами обучить их на порядок лучше. Для этого нужно знаний на порядок больше... За пару - другую лет ну максимум 3-5% появится от текцщего числа знаний за вычитом генеративной инфы. А надо 1000%. Это получается, что для нынещних алгоритмов обучения для следующей ступеньки ии знания надо копить ну 1000 лет примерно :) А ии генеративные нейросети называют ещё и потому, что они проходят тест тьюринга, следовательно их можно считать ии чисто наминалбно.
-
1
+
Судный день и скайнет отменяются!?
Zhe Sh
12.01.2025
-
2
+
Нормальному живому гению для обучения достаточно, условно, тысячи книг. ИИ для сдачи кандидатского минимума требуется вся мудрость человечества. "Может, что-то в консерватории подправить?"
Матерей eбaла
Alexander Smirnov
12.01.2025
-
1
+
Пирамида инвестиций стала прахом и возможно пенсионные фонды туда вложились, что удручает .
Naked  Scientist
12.01.2025
-
1
+
Комментарий удален пользователем или модератором...
Вчера, 12:02
Елизавета Александрова

Солнечная радиация в межпланетном пространстве — одна из серьезных проблем для пилотируемой космонавтики. Полет на Марс длится долгие месяцы, а прогнозировать крупное солнечное событие пока не представляется возможным. Тем не менее ученые нашли способ оперативного оповещения экипажа о начале такого события и дать космонавтам время укрыться от пиковой дозы. Как выяснилось, в этом может помочь уже успешно работающий на Марсе прибор.

Позавчера, 13:51
Михаил Орлов

Окаменевшие остатки могут поведать не только о самих вымерших организмах, иногда они хранят следы их взаимодействий. Разумеется, речь прежде всего о поедании одних другими. Известно немало подобных ихнофоссилий, оставленных на окаменевших мягких тканях динозавров. Новая статья дополнила их уникальными следами на костях. Оказалось, в мезозое ими не брезговали многобугорчатые млекопитающие и жуки-падальщики.

Позавчера, 11:29
Evgenia

Ученые математически объяснили возможность обратного течения времени на микроуровне. Новое исследование показывает, что противоположные стрелы времени теоретически могут возникать в определенных квантовых системах.

12 февраля
Елизавета Александрова

Пролетевший через Солнечную систему в 2017 году астероид Оумуамуа произвел неизгладимое впечатление в том числе своей беспрецедентно вытянутой формой. Астрономы попытались рассчитать, как он мог стать таким и почему в Солнечной системе мы не наблюдаем ничего подобного.

13 февраля
Елизавета Александрова

Астрономы рассчитали, сколько небесных тел могло прилететь в Солнечную систему от соседних звезд, расположенных в четырех световых годах от нас. Выяснилось, что такие объекты не только должны навещать нас, но и, вероятно, присоединяются ко множеству наших «местных» комет и астероидов. По расчетам, вокруг Солнца может обращаться около миллиона довольно крупных объектов из системы Альфы Центавра.

Позавчера, 13:51
Михаил Орлов

Окаменевшие остатки могут поведать не только о самих вымерших организмах, иногда они хранят следы их взаимодействий. Разумеется, речь прежде всего о поедании одних другими. Известно немало подобных ихнофоссилий, оставленных на окаменевших мягких тканях динозавров. Новая статья дополнила их уникальными следами на костях. Оказалось, в мезозое ими не брезговали многобугорчатые млекопитающие и жуки-падальщики.

31 января
Березин Александр

В 2022-2025 годах страны Западной Европы попытались отказаться от природного газа из России. Автор новой работы показал, что получившиеся при этом результаты были во многом противоположны целям.

12 февраля
Елизавета Александрова

Пролетевший через Солнечную систему в 2017 году астероид Оумуамуа произвел неизгладимое впечатление в том числе своей беспрецедентно вытянутой формой. Астрономы попытались рассчитать, как он мог стать таким и почему в Солнечной системе мы не наблюдаем ничего подобного.

10 февраля
Елизавета Александрова

Астрономы обнаружили, что почти треть всех наблюдаемых галактик во Вселенной объединены в пять самых широкомасштабных структур — галактические сверхскопления. На составленной учеными трехмерной карте одно особенно выделяется своими рекордными размерами: простирается на миллиард с лишним световых лет.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно