• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Сэм Альтман признался, что OpenAI не до конца понимает, как работает GPT

Генеральный директор OpenAI Сэм Альтман, выступая на саммите Международного союза электросвязи (ITU) «ИИ во благо» в Женеве (Швейцария), не смог объяснить, как работает чат-бот с генеративным искусственным интеллектом GPT, созданный его же компанией. 

Сэм Альтман / © Fabrice Coffrini / AFP via Getty Images
Сэм Альтман / © Fabrice Coffrini / AFP via Getty Images

«Мы не понимаем, что происходит в мозгу людейна уровне нейронов, но знаем, что вы можете следовать некоторым правилам», — сказал Альтман.

Сравнивая GPT с мозгом человека,директор компании OpenAI объяснил, что, подобно человеческому мозгу,генеративная технология искусственного интеллекта, такая как GPT, создает новыйконтент на основе существующих наборов данных и, предположительно, можетобучаться с течением времени. GPT, возможно, не обладает эмоциональныминтеллектом или человеческим сознанием, поэтому трудно понять, как алгоритмы —и человеческий мозг — приходят к выводам, которые они делают.

«Если вы не понимаете, что происходит, разве это не аргумент в пользу того, чтобы не выпускать новые, более мощные модели?» — спросил ведущий мероприятия у Альтмана, который признался, что в OpenAI «не решили проблему интерпретируемости (понимание того, как системы ИИ и машинного обучения принимают решения. — Прим. ред.)».

Однако Альтман заявил, что OpenAI не нужно полностью понимать свой продукт, чтобы выпускать новые версии.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

8 Комментариев
Хитрая еврейская манипуляция завуалированно убедить общественность в том, что они не влияют на ответы ChatGPT. А мы прям так и поверили в это. Ага, ага.
    Pepic, влияют конечно и никто этого и не отрицает. Альтман лишь говорит что не до конца разобрались в том как влиять правильно. И чем более навороченными становятся боты тем сложнее понять взаимосвязь между ответами и исходными данными.
Just Rocket
04.06.2024
Вот так слухи сплетни и плодят. Альтман все корректно ответил что они не понимают как именно происходит активация весов нейронов (и не должны) при генерации очередного токена в ответе модели. Т.к. при обучении веса модели балансируются в процессе длительного обучения. Им не надо знать какой именно путь пройдет от входа до выхода.
Miki Mouses
04.06.2024
Вот кадры. Нашли у кого спросить. Ха-ха🤣🤣. Директоров и торгашей(топ менеджеров) нечего выпутывать такую техническую информацию. Да и мало кто поймёт "глубину всех глубин "-фильм ДМБ.
ИИ - это "мирный атом" 21 века
Skeo Kekd
04.06.2024
Эта ситуация выглядит примерно так: "Я так сделал б##ть и оно работает, каким ху#м оно работает тебя еб#ть не должно, я сам б#я не е#у, если надо - смотри еб#чие чертежи!"
Какая разница что мы не понимаем как оно работает надо делать все сложнее что бы мы окончательно перестали понимать как оно работает и оно захватило мир
Предстоящие мероприятия
6 августа, 07:52
Игорь Байдов

Во второй половине XIX века в книге о насекомоядных растениях Чарлз Дарвин предположил, что некоторые камнеломки с липкими железистыми волосками могут проявлять свойства хищника — ловить и переваривать насекомых. Но тогда ученому не удалось экспериментально подтвердить свою догадку. Теперь это сделала международная команда ботаников.

5 августа, 10:09
Александр Березин

Хотя тротиловый эквивалент взрыва от удара был умеренным, всего несколько тонн, благодаря рыхлости лунного грунта низких широт он может поднять до 400 тонн пыли. Она способна образовать облако высотой в десятки километров. Астрономы надеются провести наблюдения этого события и, возможно, зафиксировать какие-то особенности выброшенного лунного материала.

6 августа, 10:03
Марк Чернов

Ученые объяснили, почему большинство диет закончилось возвратом килограммов: человеческий мозг воспринял ранее достигнутый максимальный вес как новую норму выживания и попытался его вернуть. Это открытие доказало, что современные методы похудения не учитывают древние встроенные особенности нашего организма.

31 июля, 14:12
Андрей Серегин

Долгое время считалось, что до прихода европейцев тропические леса Амазонии были заселены сравнительно плохо. Однако выяснилось, что плотная растительность скрывает большинство следов древних обществ. С помощью воздушного лазерного сканирования ученые обнаружили сотни неизвестных земляных сооружений и предположили, что около двух тысяч лет назад население юго-западной части Амазонии могло достигать трех миллионов человек.

4 августа, 12:03
Александр Березин

Остров Пекан недалеко от Мексиканского залива в Луизиане вскоре перейдет в собственность компании Илона Маска. Здесь будет новый космодром для Starship, почти в 20 раз больше, чем в Бока-Чике, где уже стоят две стартовых площадки. Уникальное местоположение позволит компании попытаться реализовать амбициозную цель о запуске миллиона низкоорбитальных спутников на орбиты, где сегодня находится подавляющее меньшинство спутников Земли.

1 августа, 20:27
Evgenia Vavilova

Команда исследователей из Германии и Турции впервые исследовала ледник на вершине Большого Арарата на высоте более пяти тысяч метров. Две недели в июле 2026 года ученые собирали данные о вечных снегах горы, которые до этого не были тщательно исследованы.

31 июля, 14:12
Андрей Серегин

Долгое время считалось, что до прихода европейцев тропические леса Амазонии были заселены сравнительно плохо. Однако выяснилось, что плотная растительность скрывает большинство следов древних обществ. С помощью воздушного лазерного сканирования ученые обнаружили сотни неизвестных земляных сооружений и предположили, что около двух тысяч лет назад население юго-западной части Амазонии могло достигать трех миллионов человек.

9 июля, 13:06
Редакция Naked Science

Видеосервисы стали неотъемлемой частью жизни россиян. В 2026 году охваты большинства платформ продолжают расти, в том числе YouTube.

19 июля, 20:09
Александр Березин

Очереди на заправках стали привычным явлением в России, а на фоне информационного вакуума от властей о конкретных показателях производства бензина в июне население вынуждено ориентироваться на слухи. Все это выглядит довольно странно, но есть нюанс: скорее всего, кризис уже начинает выдыхаться. Как именно мы это выяснили?

[miniorange_social_login]