• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Сэм Альтман признался, что OpenAI не до конца понимает, как работает GPT

Генеральный директор OpenAI Сэм Альтман, выступая на саммите Международного союза электросвязи (ITU) «ИИ во благо» в Женеве (Швейцария), не смог объяснить, как работает чат-бот с генеративным искусственным интеллектом GPT, созданный его же компанией. 

Сэм Альтман / © Fabrice Coffrini / AFP via Getty Images
Сэм Альтман / © Fabrice Coffrini / AFP via Getty Images

«Мы не понимаем, что происходит в мозгу людейна уровне нейронов, но знаем, что вы можете следовать некоторым правилам», — сказал Альтман.

Сравнивая GPT с мозгом человека,директор компании OpenAI объяснил, что, подобно человеческому мозгу,генеративная технология искусственного интеллекта, такая как GPT, создает новыйконтент на основе существующих наборов данных и, предположительно, можетобучаться с течением времени. GPT, возможно, не обладает эмоциональныминтеллектом или человеческим сознанием, поэтому трудно понять, как алгоритмы —и человеческий мозг — приходят к выводам, которые они делают.

«Если вы не понимаете, что происходит, разве это не аргумент в пользу того, чтобы не выпускать новые, более мощные модели?» — спросил ведущий мероприятия у Альтмана, который признался, что в OpenAI «не решили проблему интерпретируемости (понимание того, как системы ИИ и машинного обучения принимают решения. — Прим. ред.)».

Однако Альтман заявил, что OpenAI не нужно полностью понимать свой продукт, чтобы выпускать новые версии.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

8 Комментариев
-
0
+
Хитрая еврейская манипуляция завуалированно убедить общественность в том, что они не влияют на ответы ChatGPT. А мы прям так и поверили в это. Ага, ага.
    Pepic, влияют конечно и никто этого и не отрицает. Альтман лишь говорит что не до конца разобрались в том как влиять правильно. И чем более навороченными становятся боты тем сложнее понять взаимосвязь между ответами и исходными данными.
Just Rocket
04.06.2024
-
0
+
Вот так слухи сплетни и плодят. Альтман все корректно ответил что они не понимают как именно происходит активация весов нейронов (и не должны) при генерации очередного токена в ответе модели. Т.к. при обучении веса модели балансируются в процессе длительного обучения. Им не надо знать какой именно путь пройдет от входа до выхода.
Miki Mouses
04.06.2024
-
-1
+
Вот кадры. Нашли у кого спросить. Ха-ха🤣🤣. Директоров и торгашей(топ менеджеров) нечего выпутывать такую техническую информацию. Да и мало кто поймёт "глубину всех глубин "-фильм ДМБ.
ИИ - это "мирный атом" 21 века
Skeo Kekd
04.06.2024
-
0
+
Эта ситуация выглядит примерно так: "Я так сделал б##ть и оно работает, каким ху#м оно работает тебя еб#ть не должно, я сам б#я не е#у, если надо - смотри еб#чие чертежи!"
Какая разница что мы не понимаем как оно работает надо делать все сложнее что бы мы окончательно перестали понимать как оно работает и оно захватило мир
Предстоящие мероприятия
18 января, 11:45
Игорь Байдов

Повторное изучение окаменелости галлюцигении, впервые описанной в 1970-х годах, помогло палеонтологам больше узнать о рационе этого древнего существа. Ответ на вопрос о питании нашли не в ее останках, а на теле предполагаемой добычи.

19 января, 07:55
Игорь Байдов

Растительная диета давно стала золотым стандартом для тех, кто мечтает о долгой и здоровой жизни. Но китайские ученые внесли серьезные коррективы в этот постулат. Они обнаружили, что большинство местных долгожителей, перешагнувших столетний рубеж, регулярно употребляют в пищу мясо. Особенно заметна эта связь у одной специфической группы пожилых людей, что заставляет по-новому взглянуть на диетические рекомендации для самых старших поколений.

19 января, 16:04
Редакция Naked Science

Наш организм не синхронизирован с современным образом жизни и это создает нам много проблем: мы переедаем, страдаем депрессиями и болезнями сердца. Коренным образом с этим бороться нельзя, по крайней мере, не вернувшись к жизни охотников-собирателей. Но значительной части этих проблем вполне можно помочь… носимым устройством. Причем это не далекая перспектива, а реальность уже наших дней.

18 января, 11:45
Игорь Байдов

Повторное изучение окаменелости галлюцигении, впервые описанной в 1970-х годах, помогло палеонтологам больше узнать о рационе этого древнего существа. Ответ на вопрос о питании нашли не в ее останках, а на теле предполагаемой добычи.

16 января, 15:28
ФизТех

Международная научная группа при участии МФТИ разработала композитный гель-полимерный электролит для аккумуляторов. Этот материал позволит создать безопасные высокомощные батареи, что важно для электромобилей, гаджетов и систем хранения энергии.

13 января, 10:59
НИУ ВШЭ

Исследователи Центра языка и мозга ВШЭ с помощью магнитоэнцефалографии изучили, как мозг взрослых и детей реагирует на слова при чтении. Они показали, что у детей мозг дольше обрабатывает даже часто употребляющиеся в речи слова, а слова, которые встречаются редко, и псевдослова обрабатывает одинаково — медленно и по частям. С возрастом система перестраивается: высокочастотные слова переходят на быстрый маршрут, а вот новые сочетания букв по-прежнему анализируются медленно.

12 января, 15:39
Александр Березин

От рыб произошли все наземные позвоночные, включая нас, но как именно рыбы стали главным населением морей — до последнего времени оставалось неясным. Авторы новой научной работы попытались доказать, что причиной этого было вымирание, возможно, вызванное белыми ночами.

23.12.2025, 10:51
Игорь Байдов

Среди самых интригующих открытий космического телескопа «‎Джеймс Уэбб» — компактные объекты, получившие название «маленькие красные точки». Их видели только в самых дальних уголках Вселенной. Большинство возникло в первый миллиард лет после Большого взрыва, и ученые предполагали, что такие источники представляют собой небольшие компактные галактики. Однако международная команда астрономов пришла к иному выводу. Они предположили, что на самом деле «маленькие красные точки» — черные дыры, окруженные массивной газовой оболочкой.

2 января, 12:27
Адель Романова

Ученые задались вопросом: почему два расположенных по соседству спутника Юпитера такие разные, ведь на Ио повсеместно извергаются вулканы, а Европа полностью покрыта многокилометровой коркой льда. Есть версия, что Ио когда-то тоже была богата водой, но по итогам недавнего исследования это сочли неправдоподобным.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно