Хотите получать важные новости науки?
Подписаться
  • Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Сэм Альтман признался, что OpenAI не до конца понимает, как работает GPT

Генеральный директор OpenAI Сэм Альтман, выступая на саммите Международного союза электросвязи (ITU) «ИИ во благо» в Женеве (Швейцария), не смог объяснить, как работает чат-бот с генеративным искусственным интеллектом GPT, созданный его же компанией. 

Сэм Альтман / © Fabrice Coffrini / AFP via Getty Images
Сэм Альтман / © Fabrice Coffrini / AFP via Getty Images

«Мы не понимаем, что происходит в мозгу людейна уровне нейронов, но знаем, что вы можете следовать некоторым правилам», — сказал Альтман.

Сравнивая GPT с мозгом человека,директор компании OpenAI объяснил, что, подобно человеческому мозгу,генеративная технология искусственного интеллекта, такая как GPT, создает новыйконтент на основе существующих наборов данных и, предположительно, можетобучаться с течением времени. GPT, возможно, не обладает эмоциональныминтеллектом или человеческим сознанием, поэтому трудно понять, как алгоритмы —и человеческий мозг — приходят к выводам, которые они делают.

«Если вы не понимаете, что происходит, разве это не аргумент в пользу того, чтобы не выпускать новые, более мощные модели?» — спросил ведущий мероприятия у Альтмана, который признался, что в OpenAI «не решили проблему интерпретируемости (понимание того, как системы ИИ и машинного обучения принимают решения. — Прим. ред.)».

Однако Альтман заявил, что OpenAI не нужно полностью понимать свой продукт, чтобы выпускать новые версии.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

8 Комментариев
Pepic Papilazio
10.06.2024
-
0
+
Хитрая еврейская манипуляция завуалированно убедить общественность в том, что они не влияют на ответы ChatGPT. А мы прям так и поверили в это. Ага, ага.
    -
    0
    +
    Pepic, влияют конечно и никто этого и не отрицает. Альтман лишь говорит что не до конца разобрались в том как влиять правильно. И чем более навороченными становятся боты тем сложнее понять взаимосвязь между ответами и исходными данными.
Just Rocket
04.06.2024
-
0
+
Вот так слухи сплетни и плодят. Альтман все корректно ответил что они не понимают как именно происходит активация весов нейронов (и не должны) при генерации очередного токена в ответе модели. Т.к. при обучении веса модели балансируются в процессе длительного обучения. Им не надо знать какой именно путь пройдет от входа до выхода.
Miki Mouses
04.06.2024
-
-1
+
Вот кадры. Нашли у кого спросить. Ха-ха🤣🤣. Директоров и торгашей(топ менеджеров) нечего выпутывать такую техническую информацию. Да и мало кто поймёт "глубину всех глубин "-фильм ДМБ.
-
1
+
ИИ - это "мирный атом" 21 века
Skeo Kekd
04.06.2024
-
0
+
Эта ситуация выглядит примерно так: "Я так сделал б##ть и оно работает, каким ху#м оно работает тебя еб#ть не должно, я сам б#я не е#у, если надо - смотри еб#чие чертежи!"
Какая разница что мы не понимаем как оно работает надо делать все сложнее что бы мы окончательно перестали понимать как оно работает и оно захватило мир
Предстоящие мероприятия
Вчера, 18:01
Юлия Трепалина

Ученые не раз описывали, как живущие в дикой природе приматы, слоны и птицы изготавливали и применяли орудия, но о подобных примерах среди морских животных сообщалось реже. Недавно американские и британские исследователи китов наблюдали такое поведение у косаток: млекопитающие использовали обрывки водорослей по аналогии с мочалкой — в процессе взаимного груминга.

3 часа назад
Андрей Папиш

Крупнейшее в мире озеро, Каспийское море, давно теряет свой объем по разным причинам, специалисты указывают на перемены климата как глобального, так и регионального. Российские океанологи недавно обнаружили на севере Каспия новый остров, очередное подтверждение обмеления моря. Naked Science связался с учеными, открывшими участок суши, и выяснил подробности.

Вчера, 12:06
Николай Цыгикало

Боеголовки, размещенные на орбите, наносят удар быстро и по любой точке Земли — широко расхожая и в корне неверная картина. О планах космического базирования боеголовок пишут СМИ и спорят в интернете. Однако их размещение на орбите не дает боевых преимуществ: напротив, оно намного проигрывает МБР в эффективности. Разберемся, почему это так.

17 июня
Адель Романенкова

Радиотелескопы уловили очень короткий сигнал, и по его характеристикам стало ясно, что он не может быть естественного происхождения. Астрономы пришли к выводу, что источник находился в околоземном пространстве — там, где уже более полувека летает «мертвый» аппарат NASA.

20 июня
Александр Березин

Выбросы углекислого газа, которые возникнут при сжигании доказанных запасов ископаемого топлива всего 200 компаний, будут настолько велики, что для их компенсации нужны новые леса в десятки миллионов квадратных километров. По крайней мере, так считают авторы новой научной работы. Однако исследование их предшественников ставит эти выводы под серьезное сомнение.

Вчера, 11:25
Александр Березин

Нарастающий в последние десятки лет пластиковый кризис многие годы пытались решить наращиванием вторичной переработки пластика. Ученые выяснили, что такие переработанные полимеры негативно повлияли на развитие подопытных животных.

17 июня
Адель Романенкова

Радиотелескопы уловили очень короткий сигнал, и по его характеристикам стало ясно, что он не может быть естественного происхождения. Астрономы пришли к выводу, что источник находился в околоземном пространстве — там, где уже более полувека летает «мертвый» аппарат NASA.

5 июня
Александр Березин

Вид антилоп, с ледникового периода привыкший к массовым миграциям, пытается вернуться в свой исторический ареал, когда-то достигавший Днепра. Однако их нетипичные для травоядных привычки вызывают сильнейшее отторжение у сельских жителей, предлагающих массово уничтожать их с воздуха. С экологической точки зрения возвращение этих животных весьма желательно, но как примирить их с фермерами — неясно.

19 июня
ЮФУ

В ЮФУ придумали новый остроумный способ тестировать ИИ на способность работать в реальных ситуациях использования русского языка. Исследователи искусственного интеллекта из МИИ ИМ ЮФУ предлагают использовать интеллектуальные языковые игры, как пример — заставлять ИИ отвечать на вопросы из архива телевикторины «Что? Где? Когда?» и «Своей игры». Инициативу прокомментировал опытный игрок.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно