• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Технологическая сингулярность отменяется? Закончились данные для обучения ИИ 

Американский миллиардер Илон Маск и бывший главный научный сотрудник OpenAI Илья Суцкевер заявили, что у компаний, занимающихся искусственным интеллектом, закончились данные для обучения генеративных моделей.

Илон Маск / © Getty Images
Илон Маск / © Getty Images

«Мы уже практически исчерпали совокупный объем человеческих знаний <…> в области обучения ИИ. И это произошло в прошлом году», — заявил Маск в разговоре с председателем компании Stagwell Марком Пенном в соцсети X.

Эти слова прозвучали всего через несколько дней после того, как Суцкевер, который помогал создавать ChatGPT, рассказал на ежегодном мероприятии Neurips, что компании достигли пика данных — и больше их не будет.

Если это правда, значит, восполнить дефицит можно с помощью синтетических данных, то есть контента, который производят сами генеративные модели ИИ. Однако этот способ далек от идеала.

Исследователи из Стэнфордского университета и Университета Райса ранее обнаружили, что модели, обучаемые на данных, сгенерированных ИИ, будь то тексты или изображения, имеют тенденцию «сходить с ума» после пяти циклов обучения.

В ноябре прошлого года выяснилось, что OpenAI испытывает трудности со своей новой моделью Orion: она оказалась не такой продвинутой, как надеялись в компании. Аналогично новейшая версия Gemini от Google стала не намного лучше предыдущей. В то же время Anthropic вообще отложила выпуск своей модели Claude.

Напомним, ранее Маск и руководитель OpenAI Сэм Альтман заявляли, что ИИ близок к тому, чтобы превзойти интеллектуальные способности отдельно взятого человека, а потом и интеллект всех людей, вместе взятых. 

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

13 Комментариев
tvbox2a95xf2 K
7 часов назад
-
0
+
В чем проблема генерировать данные с помощью модели, потом фильтровать их ей же и далее обучать новую?!
Илья Кучеров
20 часов назад
-
0
+
А что вы хотели от массива автоматов построенных на двоичной неспециализированной , многопоточной логике? Если брать ,как пример , нас с вами - то человек однозадачен. Однозадачен в совокупности условных рефлексов, при выполнении относительно незнакомой задачи в сфере его компетенции. ИИ же дергают все лодыри умственного труда, занимая часть мощностей, возможных для построения сравнительных моделей и генерирования алгоритмов возможного их применения. В результате чего требуется все больше данных для ответов в сферах деятельности , диаметрально разнонаправленных. Отака х...ня , малята.
Артем Лебедев
22 часа назад
-
1
+
Искусственный интеллект создан? Когда? Вроде как по тех. документации идут нейросети... Ну а студенты со знанием дискретной математики то и не знали.... Но уверен! В этих СМИ интеллект создан и он все потребил! ... Клоуны ... и недостаток фундаментального образования дают о себе знать... Интеллект ... Им в помощь!
    Afro Tray
    8 часов назад
    -
    0
    +
    Артем, ой ну вы утрируете тоже. Ии - это просто громкие заголовки для набора лукасов. А в тексте всегда уточнают про генеративные модели. И да, действительно, человечество нащупало свой потолок данных. Грубо говоря openai выкачали весь интернет, знания в котором копились 50 лет. А контент для знаний копился тысячилетия. За год-два не появится столько новых данных, что бы с нынещними алгоритмами обучить их на порядок лучше. Для этого нужно знаний на порядок больше... За пару - другую лет ну максимум 3-5% появится от текцщего числа знаний за вычитом генеративной инфы. А надо 1000%. Это получается, что для нынещних алгоритмов обучения для следующей ступеньки ии знания надо копить ну 1000 лет примерно :) А ии генеративные нейросети называют ещё и потому, что они проходят тест тьюринга, следовательно их можно считать ии чисто наминалбно.
Акзор Темир
1 день назад
-
0
+
Судный день и скайнет отменяются!?
Zhe Sh
1 день назад
-
2
+
Нормальному живому гению для обучения достаточно, условно, тысячи книг. ИИ для сдачи кандидатского минимума требуется вся мудрость человечества. "Может, что-то в консерватории подправить?"
Ольга Элеваторская
1 день назад
-
0
+
Матерей eбaла
Alexander Smirnov
1 день назад
-
0
+
Пирамида инвестиций стала прахом и возможно пенсионные фонды туда вложились, что удручает .
Naked  Scientist
1 день назад
-
1
+
Комментарий удален пользователем или модератором...
9 часов назад
Юлия Трепалина

Многие предпочитают вступать в романтические отношения с людьми примерно своего возраста, но есть и пары с существенной возрастной разницей. Международная группа ученых недавно на крупной выборке людей проследила за изменениями возраста партнеров на старте отношений в разные годы жизни.

Позавчера, 10:41
Полина Меньшова

Если микропластиком называют частицы пластика размером примерно от 5 миллиметров до 1 микрона (0,001 миллиметра), то нанопластик — еще более мелкие частицы. Ученые из Южной Кореи обнаружили, что накопление нанопластика в организме способно не только вызвать серьезные болезни, но и заметно изменить социальное поведение.

Сегодня, 06:03
Мария Азарова

Первый старт тяжелой ракеты New Glenn американской частной компании Blue Origin должен был состояться еще 10 января, однако его несколько раз перенесли из-за погодных условий. Главная цель запуска — вывод второй ступени на орбиту, а также, если удастся, посадка первой ступени на платформу в Атлантике.

9 часов назад
Юлия Трепалина

Многие предпочитают вступать в романтические отношения с людьми примерно своего возраста, но есть и пары с существенной возрастной разницей. Международная группа ученых недавно на крупной выборке людей проследила за изменениями возраста партнеров на старте отношений в разные годы жизни.

Позавчера, 10:41
Полина Меньшова

Если микропластиком называют частицы пластика размером примерно от 5 миллиметров до 1 микрона (0,001 миллиметра), то нанопластик — еще более мелкие частицы. Ученые из Южной Кореи обнаружили, что накопление нанопластика в организме способно не только вызвать серьезные болезни, но и заметно изменить социальное поведение.

Сегодня, 06:03
Мария Азарова

Первый старт тяжелой ракеты New Glenn американской частной компании Blue Origin должен был состояться еще 10 января, однако его несколько раз перенесли из-за погодных условий. Главная цель запуска — вывод второй ступени на орбиту, а также, если удастся, посадка первой ступени на платформу в Атлантике.

27.12.2024
ФизТех

Ученые из Троицкого института инновационных и термоядерных исследований, МФТИ и МЭИ совершили значительный прорыв в области защиты материалов от экстремальных тепловых нагрузок, характерных для условий управляемого термоядерного синтеза.

26.12.2024
Полина Меньшова

Согласно популярному утверждению, человеческая мысль — едва ли не самое быстрое, что существует в природе. Даже свет многие считают менее быстрым, поскольку он распространяется со скоростью 300 тысяч километров в секунду, а мысль — «мгновенно». Однако новое исследование опровергло бытовую логику. Ученые из Калтеха измерили скорость, с которой человек обрабатывает информацию, и обнаружили, что основные когнитивные процессы во много раз медленнее не только распространения света, но и низкоскоростного интернета.

28.12.2024
Андрей

Группа климатологов проанализировала массив спутниковых снимков озер и водохранилищ по всей планете, сделанных с 1984 по 2021 год. Ученые обратили внимание на цвет поверхности водоемов и выяснили, что у большинства он изменился — преимущественно в сторону коротковолнового диапазона. Иными словами, экология десятков тысяч озер оказалась нестабильной.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно