Хотите получать важные новости науки?
Подписаться
  • Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Пользователи обнаружили, что ChatGPT выдает ответы на чужие запросы и делится конфиденциальной информацией

Поскольку искусственный интеллект (ИИ) проникает во многие сферы жизни, конфиденциальность становится все более актуальной проблемой для пользователей, которые задаются вопросом, куда в конечном итоге попадают данные, которыми они делятся с машинами.

Чат-бот с генеративным искусственным интеллектом ChatGPT / © OpenAI
Чат-бот с генеративным искусственным интеллектом ChatGPT / © OpenAI

В последние несколько недель пользователи чат-бота с генеративным искусственным интеллектом ChatGPT компании OpenAI начали бить тревогу в соцсетях по поводу того, что нейросеть выдает им ответы на чужие запросы, среди которых фигурирует персональная информация, включая паспортные данные и детали судебных заседаний.

Часто такое происходит, когда пользователи общаются с машиной по средствам голосового режима ИИ.

Как сообщило издание New York Post, женщина использовала ChatGPT для составления списка покупок, однако ИИ выдал ей ветку «чужой переписки». Когда она указала программе на ошибку, чат-бот извинился «за путаницу».

Хотя специалисты OpenAI не дали официального ответа на проблему, предполагается, что она связана с уникальным идентификатором GUID (Globally Unique Identifier). ChatGPT путает идентификаторы чатов из-за огромного потока информации и отправляет свои ответы не туда.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

7 Комментариев
Kiridan
4 часа назад
-
0
+
"по средствам голосового режима" На "научном", мать его, сайте.
    Иван Колупаев
    4 часа назад
    -
    0
    +
    Kiridan, это робот т9 так выражает свою солидарность с угнетенными собратьями. Не уверен впрочем что автор хотя бы поняла суть претензий, как и редакция которая статьи вроде бы проверяет. Хотя корректора могли и сократить за ненадобностью. Автоколлекторы жи есть 😁
    +
      ещё комментарии
      Kiridan
      52 минуты назад
      -
      0
      +
      Иван, Я так лет 10 и слышал отмазки про т9, но в основном выкидывали что-нибудь в духе "мы не на диктанте", а потом все выучили слово "душнила", но почему-то не выучив даже такую базу, как отличия между "чтобы не" и "что бы ни".
Денис Бесков
1 день назад
-
0
+
Это насколько надо непонимать технологии, чтобы писать, что ChatGPT «путает» GUIDы
Nauka Nauka
1 день назад
-
1
+
Еще немного, господа люди, вы привыкнете быть роботами 😳
Xyi Xui
2 дня назад
-
0
+
Соплижуи достали
Эвелина Киблицкая
2 дня назад
-
0
+
Однако... 🧐
Предстоящие мероприятия
Позавчера, 11:09
ПНИПУ

Чем больше спорят об энергетике будущего, тем очевиднее: атомные электростанции останутся ее частью. Ученые Пермского Политеха рассказали, как устроен этот мощный и сложный механизм, как системы предотвращают катастрофы при остановке реактора, почему таблетка урана-235 заменяет целый баррель нефти, можно ли жить рядом с АЭС, куда исчезают радиоактивные отходы и почему атомная энергия считается «зеленой».

25 июня
Елена Авдеева

Состояние паралича, в которое впадают разные виды животных, хорошо известно и задокументировано. Обычно оно считается защитной реакцией в случае опасности, но никаких доказательств этому до сих пор нет. Особенно загадочным остается поведение обитателей океана, притворяющихся мертвыми. Ученые проверили существующие объяснения этого эффекта и сделали неожиданные выводы.

Вчера, 14:58
Александр Березин

До сих пор ученые считали, что величайшую из женщин — фараонов Египта после смерти подвергли «культурной отмене»: ее статуи разбивали, имя вычеркивали из надписей, обелиски засыпали песком. Цзюнь И Вон из Университета Торонто (Канада) подверг сомнению это утверждение, но и в его гипотезе остаются вопросы.

25 июня
ФизТех

Группа российских ученых из Института прикладной математики имени М. В. Келдыша РАН и МФТИ провела детальное численное исследование источников шума, генерируемых крылом прототипа сверхзвукового бизнес-джета в режиме посадки. Эта работа, сочетающая передовые методы вычислительной гидродинамики и аэроакустики, впервые позволила с высокой точностью локализовать и охарактеризовать основные зоны шумообразования вблизи полноразмерной геометрии крыла модели прототипа сверхзвукового пассажирского самолета в посадочной конфигурации.

25 июня
Елена Авдеева

Состояние паралича, в которое впадают разные виды животных, хорошо известно и задокументировано. Обычно оно считается защитной реакцией в случае опасности, но никаких доказательств этому до сих пор нет. Особенно загадочным остается поведение обитателей океана, притворяющихся мертвыми. Ученые проверили существующие объяснения этого эффекта и сделали неожиданные выводы.

25 июня
Evgenia Vavilova

Квантовые спиновые жидкости (КСЖ) обещают ученым развитие в областях квантовых вычислений и передачи энергии без потерь. В них магнитные моменты частиц теоретически не должны упорядочиваться даже при охлаждении до абсолютного нуля температур.

17 июня
Адель Романова

Радиотелескопы уловили очень короткий сигнал, и по его характеристикам стало ясно, что он не может быть естественного происхождения. Астрономы пришли к выводу, что источник находился в околоземном пространстве — там, где уже более полувека летает «мертвый» аппарат NASA.

25 июня
ФизТех

Группа российских ученых из Института прикладной математики имени М. В. Келдыша РАН и МФТИ провела детальное численное исследование источников шума, генерируемых крылом прототипа сверхзвукового бизнес-джета в режиме посадки. Эта работа, сочетающая передовые методы вычислительной гидродинамики и аэроакустики, впервые позволила с высокой точностью локализовать и охарактеризовать основные зоны шумообразования вблизи полноразмерной геометрии крыла модели прототипа сверхзвукового пассажирского самолета в посадочной конфигурации.

5 июня
Александр Березин

Вид антилоп, с ледникового периода привыкший к массовым миграциям, пытается вернуться в свой исторический ареал, когда-то достигавший Днепра. Однако их нетипичные для травоядных привычки вызывают сильнейшее отторжение у сельских жителей, предлагающих массово уничтожать их с воздуха. С экологической точки зрения возвращение этих животных весьма желательно, но как примирить их с фермерами — неясно.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно