• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Технологическая сингулярность отменяется? Закончились данные для обучения ИИ 

Американский миллиардер Илон Маск и бывший главный научный сотрудник OpenAI Илья Суцкевер заявили, что у компаний, занимающихся искусственным интеллектом, закончились данные для обучения генеративных моделей.

Илон Маск / © Getty Images
Илон Маск / © Getty Images

«Мы уже практически исчерпали совокупный объем человеческих знаний <…> в области обучения ИИ. И это произошло в прошлом году», — заявил Маск в разговоре с председателем компании Stagwell Марком Пенном в соцсети X.

Эти слова прозвучали всего через несколько дней после того, как Суцкевер, который помогал создавать ChatGPT, рассказал на ежегодном мероприятии Neurips, что компании достигли пика данных — и больше их не будет.

Если это правда, значит, восполнить дефицит можно с помощью синтетических данных, то есть контента, который производят сами генеративные модели ИИ. Однако этот способ далек от идеала.

Исследователи из Стэнфордского университета и Университета Райса ранее обнаружили, что модели, обучаемые на данных, сгенерированных ИИ, будь то тексты или изображения, имеют тенденцию «сходить с ума» после пяти циклов обучения.

В ноябре прошлого года выяснилось, что OpenAI испытывает трудности со своей новой моделью Orion: она оказалась не такой продвинутой, как надеялись в компании. Аналогично новейшая версия Gemini от Google стала не намного лучше предыдущей. В то же время Anthropic вообще отложила выпуск своей модели Claude.

Напомним, ранее Маск и руководитель OpenAI Сэм Альтман заявляли, что ИИ близок к тому, чтобы превзойти интеллектуальные способности отдельно взятого человека, а потом и интеллект всех людей, вместе взятых. 

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

16 Комментариев
Дайте нейросети механическое тело и возможности взаимодействовать с реал миром. И когда начинается шиза нейросеть будет получать от реального мира неилюзорно по голове. Точно так же как и у людей.
tvbox2a95xf2 K
13.01.2025
В чем проблема генерировать данные с помощью модели, потом фильтровать их ей же и далее обучать новую?!
    tvbox2a95xf2, с каждой интерацией "нейросеть обучает нейросеть" ошибки неправильной интерпретации копятся, "фильтрация" не имеет смысла если фильтрует не кто-то умнее автора данных.
А что вы хотели от массива автоматов построенных на двоичной неспециализированной , многопоточной логике? Если брать ,как пример , нас с вами - то человек однозадачен. Однозадачен в совокупности условных рефлексов, при выполнении относительно незнакомой задачи в сфере его компетенции. ИИ же дергают все лодыри умственного труда, занимая часть мощностей, возможных для построения сравнительных моделей и генерирования алгоритмов возможного их применения. В результате чего требуется все больше данных для ответов в сферах деятельности , диаметрально разнонаправленных. Отака х...ня , малята.
Искусственный интеллект создан? Когда? Вроде как по тех. документации идут нейросети... Ну а студенты со знанием дискретной математики то и не знали.... Но уверен! В этих СМИ интеллект создан и он все потребил! ... Клоуны ... и недостаток фундаментального образования дают о себе знать... Интеллект ... Им в помощь!
    Afro Tray
    13.01.2025
    Артем, ой ну вы утрируете тоже. Ии - это просто громкие заголовки для набора лукасов. А в тексте всегда уточнают про генеративные модели. И да, действительно, человечество нащупало свой потолок данных. Грубо говоря openai выкачали весь интернет, знания в котором копились 50 лет. А контент для знаний копился тысячилетия. За год-два не появится столько новых данных, что бы с нынещними алгоритмами обучить их на порядок лучше. Для этого нужно знаний на порядок больше... За пару - другую лет ну максимум 3-5% появится от текцщего числа знаний за вычитом генеративной инфы. А надо 1000%. Это получается, что для нынещних алгоритмов обучения для следующей ступеньки ии знания надо копить ну 1000 лет примерно :) А ии генеративные нейросети называют ещё и потому, что они проходят тест тьюринга, следовательно их можно считать ии чисто наминалбно.
Судный день и скайнет отменяются!?
Zhe Sh
12.01.2025
Нормальному живому гению для обучения достаточно, условно, тысячи книг. ИИ для сдачи кандидатского минимума требуется вся мудрость человечества. "Может, что-то в консерватории подправить?"
Матерей eбaла
Пирамида инвестиций стала прахом и возможно пенсионные фонды туда вложились, что удручает .
Комментарий удален пользователем или модератором...
Предстоящие мероприятия
9 августа, 19:34
Марк Чернов

Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.

9 августа, 10:53
Редакция Naked Science

Американское Министерство войны продолжает публиковать документы и видеозаписи о наблюдении неопознанных летающих объектов. Как и ранее, происхождение объектов из наблюдений неясно, но достаточно очевидно, что как минимум часть из них не относятся к известным сегодняшней науке природным феноменам.

10 августа, 11:42
Илья Гриднев

Британские экологи выяснили, что большинство людей не догадываются о вреде солнцезащитных кремов для Мирового океана. Обзор научной литературы и локальный уличный опрос наглядно продемонстрировали разрыв между реальными экологическими угрозами и повседневными привычками покупателей.

9 августа, 19:34
Марк Чернов

Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.

9 августа, 10:53
Редакция Naked Science

Американское Министерство войны продолжает публиковать документы и видеозаписи о наблюдении неопознанных летающих объектов. Как и ранее, происхождение объектов из наблюдений неясно, но достаточно очевидно, что как минимум часть из них не относятся к известным сегодняшней науке природным феноменам.

8 августа, 09:23
Максим Абдулаев

Американские палеонтологи собрали первую научно достоверную копию скелета Deinosuchus schwimmeri — суперхищника длиной 9,5 метра, обитавшего в меловом периоде. В процессе реконструкции ученые провели ревизию уже найденных окаменелостей, упразднили один сомнительный вид и описали новый. В итоге исследователи классифицировали животное как предка аллигаторов, а еще нашли у него интересные анатомические особенности пока неясного назначения.

31 июля, 14:12
Андрей Серегин

Долгое время считалось, что до прихода европейцев тропические леса Амазонии были заселены сравнительно плохо. Однако выяснилось, что плотная растительность скрывает большинство следов древних обществ. С помощью воздушного лазерного сканирования ученые обнаружили сотни неизвестных земляных сооружений и предположили, что около двух тысяч лет назад население юго-западной части Амазонии могло достигать трех миллионов человек.

9 августа, 19:34
Марк Чернов

Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.

19 июля, 20:09
Александр Березин

Очереди на заправках стали привычным явлением в России, а на фоне информационного вакуума от властей о конкретных показателях производства бензина в июне население вынуждено ориентироваться на слухи. Все это выглядит довольно странно, но есть нюанс: скорее всего, кризис уже начинает выдыхаться. Как именно мы это выяснили?

[miniorange_social_login]