• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Технологическая сингулярность отменяется? Закончились данные для обучения ИИ 

Американский миллиардер Илон Маск и бывший главный научный сотрудник OpenAI Илья Суцкевер заявили, что у компаний, занимающихся искусственным интеллектом, закончились данные для обучения генеративных моделей.

Илон Маск / © Getty Images
Илон Маск / © Getty Images

«Мы уже практически исчерпали совокупный объем человеческих знаний <…> в области обучения ИИ. И это произошло в прошлом году», — заявил Маск в разговоре с председателем компании Stagwell Марком Пенном в соцсети X.

Эти слова прозвучали всего через несколько дней после того, как Суцкевер, который помогал создавать ChatGPT, рассказал на ежегодном мероприятии Neurips, что компании достигли пика данных — и больше их не будет.

Если это правда, значит, восполнить дефицит можно с помощью синтетических данных, то есть контента, который производят сами генеративные модели ИИ. Однако этот способ далек от идеала.

Исследователи из Стэнфордского университета и Университета Райса ранее обнаружили, что модели, обучаемые на данных, сгенерированных ИИ, будь то тексты или изображения, имеют тенденцию «сходить с ума» после пяти циклов обучения.

В ноябре прошлого года выяснилось, что OpenAI испытывает трудности со своей новой моделью Orion: она оказалась не такой продвинутой, как надеялись в компании. Аналогично новейшая версия Gemini от Google стала не намного лучше предыдущей. В то же время Anthropic вообще отложила выпуск своей модели Claude.

Напомним, ранее Маск и руководитель OpenAI Сэм Альтман заявляли, что ИИ близок к тому, чтобы превзойти интеллектуальные способности отдельно взятого человека, а потом и интеллект всех людей, вместе взятых. 

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

16 Комментариев
-
0
+
Дайте нейросети механическое тело и возможности взаимодействовать с реал миром. И когда начинается шиза нейросеть будет получать от реального мира неилюзорно по голове. Точно так же как и у людей.
tvbox2a95xf2 K
13.01.2025
-
0
+
В чем проблема генерировать данные с помощью модели, потом фильтровать их ей же и далее обучать новую?!
    -
    0
    +
    tvbox2a95xf2, с каждой интерацией "нейросеть обучает нейросеть" ошибки неправильной интерпретации копятся, "фильтрация" не имеет смысла если фильтрует не кто-то умнее автора данных.
-
0
+
А что вы хотели от массива автоматов построенных на двоичной неспециализированной , многопоточной логике? Если брать ,как пример , нас с вами - то человек однозадачен. Однозадачен в совокупности условных рефлексов, при выполнении относительно незнакомой задачи в сфере его компетенции. ИИ же дергают все лодыри умственного труда, занимая часть мощностей, возможных для построения сравнительных моделей и генерирования алгоритмов возможного их применения. В результате чего требуется все больше данных для ответов в сферах деятельности , диаметрально разнонаправленных. Отака х...ня , малята.
-
1
+
Искусственный интеллект создан? Когда? Вроде как по тех. документации идут нейросети... Ну а студенты со знанием дискретной математики то и не знали.... Но уверен! В этих СМИ интеллект создан и он все потребил! ... Клоуны ... и недостаток фундаментального образования дают о себе знать... Интеллект ... Им в помощь!
    Afro Tray
    13.01.2025
    -
    0
    +
    Артем, ой ну вы утрируете тоже. Ии - это просто громкие заголовки для набора лукасов. А в тексте всегда уточнают про генеративные модели. И да, действительно, человечество нащупало свой потолок данных. Грубо говоря openai выкачали весь интернет, знания в котором копились 50 лет. А контент для знаний копился тысячилетия. За год-два не появится столько новых данных, что бы с нынещними алгоритмами обучить их на порядок лучше. Для этого нужно знаний на порядок больше... За пару - другую лет ну максимум 3-5% появится от текцщего числа знаний за вычитом генеративной инфы. А надо 1000%. Это получается, что для нынещних алгоритмов обучения для следующей ступеньки ии знания надо копить ну 1000 лет примерно :) А ии генеративные нейросети называют ещё и потому, что они проходят тест тьюринга, следовательно их можно считать ии чисто наминалбно.
-
1
+
Судный день и скайнет отменяются!?
Zhe Sh
12.01.2025
-
2
+
Нормальному живому гению для обучения достаточно, условно, тысячи книг. ИИ для сдачи кандидатского минимума требуется вся мудрость человечества. "Может, что-то в консерватории подправить?"
Матерей eбaла
Alexander Smirnov
12.01.2025
-
1
+
Пирамида инвестиций стала прахом и возможно пенсионные фонды туда вложились, что удручает .
Naked  Scientist
12.01.2025
-
1
+
Комментарий удален пользователем или модератором...
Вчера, 11:17
Юлия Тарасова

Результаты эксперимента в США в будущем могут позволить добиться разрешения на использование отработанной конопли в качестве кормовой добавки в животноводстве.

Вчера, 15:35
Губкинский университет

Исследования ученых РГУ нефти и газа имени И. М. Губкина подтвердили, что технология производства авиационного топлива SAF из растительных лигноцеллюлозных отходов позволит снизить выбросы углекислого газа на 75% по сравнению с нефтяным керосином.

Вчера, 08:01
Адель Романова

На стыке трех литосферных плит у Красного моря заметили необычный вулканический процесс: где-то магма поднимается равномерным потоком, где-то — по частям. По мнению геологов, такой «пульс» вызван тем, что в некоторых местах магма с большим трудом пытается пробиться на поверхность.

28 июня, 18:58
Игорь Байдов

За последние 30 лет размер трески, обитающей в Балтийском море, значительно уменьшился. Если раньше рыбаки вылавливали из воды особей размером с маленького ребенка, то теперь добытая рыба легко помещается в ладонях. Авторы нового исследования винят в этом человека, который заставил один из видов эволюционировать в «карликов».

27 июня, 09:47
Авдей Палиш

Снимки с фотоловушек давно стали культурным явлением. Особенно забавными выглядят медведи. Мы с удовольствием смотрим на зверей, попавших в объектив камер в национальных парках: тигр украл фотоловушку, муравьед проехал верхом на муравьеде и так далее. Но не все животные настолько обаятельные. Ученые из США решили развить эмпатию к гремучим змеям, которых многие боятся. Для этого специалисты запустили трансляцию из «мегалогова», где рептилии отдыхают и рожают потомство.

29 июня, 17:23
Людмила Соколова

Чтобы понять, как часто за пределами Солнечной системы встречаются миры, похожие на Землю, ученые из Калифорнийского университета (США) провели статистический анализ 517 экзопланет. Результаты показали, что всего три мира, включая наш, соответствуют критериям потенциальной обитаемости. Наиболее перспективными из них оказались Kepler-22b и Kepler-538b.

17 июня, 16:49
Адель Романова

Радиотелескопы уловили очень короткий сигнал, и по его характеристикам стало ясно, что он не может быть естественного происхождения. Астрономы пришли к выводу, что источник находился в околоземном пространстве — там, где уже более полувека летает «мертвый» аппарат NASA.

25 июня, 15:19
ФизТех

Группа российских ученых из Института прикладной математики имени М. В. Келдыша РАН и МФТИ провела детальное численное исследование источников шума, генерируемых крылом прототипа сверхзвукового бизнес-джета в режиме посадки. Эта работа, сочетающая передовые методы вычислительной гидродинамики и аэроакустики, впервые позволила с высокой точностью локализовать и охарактеризовать основные зоны шумообразования вблизи полноразмерной геометрии крыла модели прототипа сверхзвукового пассажирского самолета в посадочной конфигурации.

5 июня, 13:20
Александр Березин

Вид антилоп, с ледникового периода привыкший к массовым миграциям, пытается вернуться в свой исторический ареал, когда-то достигавший Днепра. Однако их нетипичные для травоядных привычки вызывают сильнейшее отторжение у сельских жителей, предлагающих массово уничтожать их с воздуха. С экологической точки зрения возвращение этих животных весьма желательно, но как примирить их с фермерами — неясно.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно