• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Технологическая сингулярность отменяется? Закончились данные для обучения ИИ 

Американский миллиардер Илон Маск и бывший главный научный сотрудник OpenAI Илья Суцкевер заявили, что у компаний, занимающихся искусственным интеллектом, закончились данные для обучения генеративных моделей.

Илон Маск / © Getty Images
Илон Маск / © Getty Images

«Мы уже практически исчерпали совокупный объем человеческих знаний <…> в области обучения ИИ. И это произошло в прошлом году», — заявил Маск в разговоре с председателем компании Stagwell Марком Пенном в соцсети X.

Эти слова прозвучали всего через несколько дней после того, как Суцкевер, который помогал создавать ChatGPT, рассказал на ежегодном мероприятии Neurips, что компании достигли пика данных — и больше их не будет.

Если это правда, значит, восполнить дефицит можно с помощью синтетических данных, то есть контента, который производят сами генеративные модели ИИ. Однако этот способ далек от идеала.

Исследователи из Стэнфордского университета и Университета Райса ранее обнаружили, что модели, обучаемые на данных, сгенерированных ИИ, будь то тексты или изображения, имеют тенденцию «сходить с ума» после пяти циклов обучения.

В ноябре прошлого года выяснилось, что OpenAI испытывает трудности со своей новой моделью Orion: она оказалась не такой продвинутой, как надеялись в компании. Аналогично новейшая версия Gemini от Google стала не намного лучше предыдущей. В то же время Anthropic вообще отложила выпуск своей модели Claude.

Напомним, ранее Маск и руководитель OpenAI Сэм Альтман заявляли, что ИИ близок к тому, чтобы превзойти интеллектуальные способности отдельно взятого человека, а потом и интеллект всех людей, вместе взятых. 

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

16 Комментариев
Дайте нейросети механическое тело и возможности взаимодействовать с реал миром. И когда начинается шиза нейросеть будет получать от реального мира неилюзорно по голове. Точно так же как и у людей.
tvbox2a95xf2 K
13.01.2025
В чем проблема генерировать данные с помощью модели, потом фильтровать их ей же и далее обучать новую?!
    tvbox2a95xf2, с каждой интерацией "нейросеть обучает нейросеть" ошибки неправильной интерпретации копятся, "фильтрация" не имеет смысла если фильтрует не кто-то умнее автора данных.
А что вы хотели от массива автоматов построенных на двоичной неспециализированной , многопоточной логике? Если брать ,как пример , нас с вами - то человек однозадачен. Однозадачен в совокупности условных рефлексов, при выполнении относительно незнакомой задачи в сфере его компетенции. ИИ же дергают все лодыри умственного труда, занимая часть мощностей, возможных для построения сравнительных моделей и генерирования алгоритмов возможного их применения. В результате чего требуется все больше данных для ответов в сферах деятельности , диаметрально разнонаправленных. Отака х...ня , малята.
Искусственный интеллект создан? Когда? Вроде как по тех. документации идут нейросети... Ну а студенты со знанием дискретной математики то и не знали.... Но уверен! В этих СМИ интеллект создан и он все потребил! ... Клоуны ... и недостаток фундаментального образования дают о себе знать... Интеллект ... Им в помощь!
    Afro Tray
    13.01.2025
    Артем, ой ну вы утрируете тоже. Ии - это просто громкие заголовки для набора лукасов. А в тексте всегда уточнают про генеративные модели. И да, действительно, человечество нащупало свой потолок данных. Грубо говоря openai выкачали весь интернет, знания в котором копились 50 лет. А контент для знаний копился тысячилетия. За год-два не появится столько новых данных, что бы с нынещними алгоритмами обучить их на порядок лучше. Для этого нужно знаний на порядок больше... За пару - другую лет ну максимум 3-5% появится от текцщего числа знаний за вычитом генеративной инфы. А надо 1000%. Это получается, что для нынещних алгоритмов обучения для следующей ступеньки ии знания надо копить ну 1000 лет примерно :) А ии генеративные нейросети называют ещё и потому, что они проходят тест тьюринга, следовательно их можно считать ии чисто наминалбно.
Судный день и скайнет отменяются!?
Zhe Sh
12.01.2025
Нормальному живому гению для обучения достаточно, условно, тысячи книг. ИИ для сдачи кандидатского минимума требуется вся мудрость человечества. "Может, что-то в консерватории подправить?"
Матерей eбaла
Пирамида инвестиций стала прахом и возможно пенсионные фонды туда вложились, что удручает .
Комментарий удален пользователем или модератором...
Предстоящие мероприятия
29 августа, 16:51
Александр Березин

Госдолг США достиг 40 триллионов долларов и растет все быстрее и быстрее. На Западе переполох: при таких размерах его не выплатить. Следовательно, полагают многие, надо решить проблему как древние шумеры — долг обнулить и начать занимать заново. Рецепт кажется здравым, но есть нюансы. Причем поучительнее всего они даже не для Штатов, а, как ни странно, именно для России.

31 августа, 09:44
Evgenia Vavilova

Обычно место соединения двух деталей, даже из одного материала — слабая точка изделия. Но правильно сваренные друг с другом куски полиэтилена это правило нарушали, хотя ученые и не понимали почему.

31 августа, 06:33
Мария Азарова

Шахматы все чаще рассматривают не только как интеллектуальную игру, но и как инструмент дополнительной помощи для людей с психическими заболеваниями. Авторы нового исследования выяснили, какие изменения произошли у молодых участников после шести недель регулярных занятий.

28 августа, 15:43
Татьяна Зайцева

Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.

29 августа, 16:51
Александр Березин

Госдолг США достиг 40 триллионов долларов и растет все быстрее и быстрее. На Западе переполох: при таких размерах его не выплатить. Следовательно, полагают многие, надо решить проблему как древние шумеры — долг обнулить и начать занимать заново. Рецепт кажется здравым, но есть нюансы. Причем поучительнее всего они даже не для Штатов, а, как ни странно, именно для России.

30 августа, 16:26
Александр Березин

Телескоп «Роман» в несколько раз превосходит любого из своих американских предшественников по числу мегапикселей в матрице и будет отправлять на Землю больше данных, чем любой другой космический телескоп из когда-либо созданных. С его помощью астрономы надеются и прояснить природу темной энергии и материи, и найти немало новых экзопланет — в особенности планет-бродяг

9 августа, 19:34
Марк Чернов

Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.

28 августа, 15:43
Татьяна Зайцева

Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.

19 августа, 18:31
Александр Березин

После сокращения длины очередей и роста доступности бензина в первую неделю августа ситуация снова ухудшилась. Если с 20 июня по начало августа кризис носил в основном психологический характер, то сейчас ситуация принципиально иная: августовские атаки на НПЗ показали, что меры по усилению их противовоздушной обороны не были достаточно полными. Значит, прогноз автора Naked Science от 19 июля о том, что острая фаза кризиса закончится до конца лета, был частично неверным.

[miniorange_social_login]