• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Сэм Альтман признался, что OpenAI не до конца понимает, как работает GPT

Генеральный директор OpenAI Сэм Альтман, выступая на саммите Международного союза электросвязи (ITU) «ИИ во благо» в Женеве (Швейцария), не смог объяснить, как работает чат-бот с генеративным искусственным интеллектом GPT, созданный его же компанией. 

Сэм Альтман / © Fabrice Coffrini / AFP via Getty Images
Сэм Альтман / © Fabrice Coffrini / AFP via Getty Images

«Мы не понимаем, что происходит в мозгу людейна уровне нейронов, но знаем, что вы можете следовать некоторым правилам», — сказал Альтман.

Сравнивая GPT с мозгом человека,директор компании OpenAI объяснил, что, подобно человеческому мозгу,генеративная технология искусственного интеллекта, такая как GPT, создает новыйконтент на основе существующих наборов данных и, предположительно, можетобучаться с течением времени. GPT, возможно, не обладает эмоциональныминтеллектом или человеческим сознанием, поэтому трудно понять, как алгоритмы —и человеческий мозг — приходят к выводам, которые они делают.

«Если вы не понимаете, что происходит, разве это не аргумент в пользу того, чтобы не выпускать новые, более мощные модели?» — спросил ведущий мероприятия у Альтмана, который признался, что в OpenAI «не решили проблему интерпретируемости (понимание того, как системы ИИ и машинного обучения принимают решения. — Прим. ред.)».

Однако Альтман заявил, что OpenAI не нужно полностью понимать свой продукт, чтобы выпускать новые версии.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

8 Комментариев
Pepic Papilazio
10.06.2024
-
0
+
Хитрая еврейская манипуляция завуалированно убедить общественность в том, что они не влияют на ответы ChatGPT. А мы прям так и поверили в это. Ага, ага.
    -
    0
    +
    Pepic, влияют конечно и никто этого и не отрицает. Альтман лишь говорит что не до конца разобрались в том как влиять правильно. И чем более навороченными становятся боты тем сложнее понять взаимосвязь между ответами и исходными данными.
Just Rocket
04.06.2024
-
0
+
Вот так слухи сплетни и плодят. Альтман все корректно ответил что они не понимают как именно происходит активация весов нейронов (и не должны) при генерации очередного токена в ответе модели. Т.к. при обучении веса модели балансируются в процессе длительного обучения. Им не надо знать какой именно путь пройдет от входа до выхода.
Miki Mouses
04.06.2024
-
-1
+
Вот кадры. Нашли у кого спросить. Ха-ха🤣🤣. Директоров и торгашей(топ менеджеров) нечего выпутывать такую техническую информацию. Да и мало кто поймёт "глубину всех глубин "-фильм ДМБ.
-
1
+
ИИ - это "мирный атом" 21 века
Skeo Kekd
04.06.2024
-
0
+
Эта ситуация выглядит примерно так: "Я так сделал б##ть и оно работает, каким ху#м оно работает тебя еб#ть не должно, я сам б#я не е#у, если надо - смотри еб#чие чертежи!"
Какая разница что мы не понимаем как оно работает надо делать все сложнее что бы мы окончательно перестали понимать как оно работает и оно захватило мир
Предстоящие мероприятия
Вчера, 12:07
Игорь Байдов

Многие членистоногие — прекрасные прыгуны. Прыжки для них не только способ передвижения, но и бегство от хищника. С помощью цифровых высокоскоростных камер эволюционный биолог и биоинженер из США изучили поведение ногохвосток и выяснили, что они вращаются быстрее, чем любое другое животное на земле. Полученные знания пригодятся в робототехнике.

Позавчера, 14:03
Татьяна

Эпизоды глобального дефицита кислорода в океанах случались в мезозое нередко. Согласно общепринятой гипотезе, дело в усиленном выветривании горных пород. В новой работе ученые показали, что разрушение суши и движение океанского дна во время распада Гондваны действительно могли запустить цепочку событий, приведших к массовому вымиранию морской биоты.

Позавчера, 12:45
Полина Меньшова

Собаки способны реагировать непосредственно на звучание слова, а не на внешний вид предмета, который оно обозначает, или жесты хозяина. Это выяснила международная команда ученых с помощью дрессировочных кнопок с записью человеческого голоса.

28 августа
НИУ ВШЭ

Команда исследователей с участием физиков из НИУ ВШЭ повторила эксперимент 1969 года, связанный с изучением сверхпроводимости и ее свойств. Это первая удачная попытка за 55 лет. Ученые включали сверхпроводимость — специально ухудшали границы между слоями сверхпроводника и ферромагнетиков в системе — и получили лучшие характеристики спиновых клапанов по сравнению с классическим вариантом, где контакты между слоями идеальны. Такой подход может помочь при создании более эффективных устройств для хранения данных и вычислений.

28 августа
Татьяна

Морской лед регулирует теплообмен между атмосферой и океаном в полярных регионах. Ключевую роль играет теплопроводность льда — это важный параметр в климатических моделях. Однако его сложно вычислить из-за особенной микроструктуры льда, его чувствительности к температуре, солености. В новой работе ученые применили ряд математических методов для расчета теплопроводности. В перспективе это поможет улучшить климатические модели и найдет применение в других областях.

Позавчера, 12:45
Полина Меньшова

Собаки способны реагировать непосредственно на звучание слова, а не на внешний вид предмета, который оно обозначает, или жесты хозяина. Это выяснила международная команда ученых с помощью дрессировочных кнопок с записью человеческого голоса.

15 августа
Росатом

Предприятия Научного дивизиона госкорпорации «Росатом» и группа строительных компаний «Реформа» заключили договор о сотрудничестве и впервые применили для демонтажа высотных металлических конструкций — кранов-перегружателей — мобильный лазерный комплекс. МЛК, разработанный в стенах одного из институтов «Росатома», не имеет аналогов в стране.

16 августа
Юлия Трепалина

Инсектицидные спреи и аэрозоли, с помощью которых обычно пытаются бороться с тараканами в доме, в большинстве случаев неэффективны и почти полностью бесполезны. Такой неутешительный вывод сделали американские исследователи по итогам лабораторных испытаний, в которых протестировали средства на основе пиретроидов — одной из самых распространенных групп инсектицидов.

2 августа
Юлия Трепалина

Выглядеть хорошо на фото в выпускном альбоме оказывается важно не только потому, что по красивым снимкам позже будет приятнее вспоминать ушедшую юность. Американские ученые недавно выяснили, что наименее привлекательные люди в школьных фотоальбомах прожили меньше своих более симпатичных сверстников.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно