• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Пользователи обнаружили, что ChatGPT выдает ответы на чужие запросы и делится конфиденциальной информацией

Поскольку искусственный интеллект проникает во многие сферы жизни, конфиденциальность становится все более актуальной проблемой для пользователей, которые задаются вопросом, куда в итоге попадают данные, которыми они делятся с машинами.

Чат-бот с генеративным искусственным интеллектом ChatGPT / © OpenAI
Чат-бот с генеративным искусственным интеллектом ChatGPT / © OpenAI

В последние несколько недель пользователи чат-бота с генеративным искусственным интеллектом ChatGPT компании OpenAI начали бить тревогу в соцсетях по поводу того, что нейросеть выдает им ответы на чужие запросы, среди которых фигурирует персональная информация, включая паспортные данные и детали судебных заседаний.

Часто такое происходит, когда пользователи общаются с машиной через голосовой режим ИИ.

Как сообщило издание New York Post, женщина использовала ChatGPT для составления списка покупок, однако ИИ выдал ей ветку «чужой переписки». Когда она указала программе на ошибку, чат-бот извинился «за путаницу».

Хотя специалисты OpenAI не дали официального ответа, предполагается, что проблема связана с уникальным идентификатором GUID (Globally Unique Identifier). ChatGPT путает идентификаторы чатов из-за огромного потока информации и отправляет свои ответы не туда.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

16 Комментариев
Carlson Roy
7 часов назад
-
0
+
This is worrying. If ChatGPT is mixing up conversations and leaking personal data like IDs or court info, that’s a serious privacy issue. AI tools should protect users, not expose them. OpenAI needs to explain what’s happening and fix it fast. Trust can be lost very quickly with mistakes like this. https://moto-x3m.io
-
1
+
У меня был прикол при анализе договора прислал рецепт утки по пекински. На мой вопрос что за дела, говорит сам офигел, но представь чувака который ждёт рецепт утки и получил ответ по договору 🤣
Все пытаются занизить самого прогрессивного ИИ в мире, он умнеет не по годам, нет бы похвалить только и слышу, он такой он сякой
Kiridan
28.06.2025
-
3
+
"по средствам голосового режима" На "научном", мать его, сайте.
    Kiridan, это робот т9 так выражает свою солидарность с угнетенными собратьями. Не уверен впрочем что автор хотя бы поняла суть претензий, как и редакция которая статьи вроде бы проверяет. Хотя корректора могли и сократить за ненадобностью. Автоколлекторы жи есть 😁
    +
      ещё комментарии
      Kiridan
      28.06.2025
      -
      1
      +
      Иван, Я так лет 10 и слышал отмазки про т9, но в основном выкидывали что-нибудь в духе "мы не на диктанте", а потом все выучили слово "душнила", но почему-то не выучив даже такую базу, как отличия между "чтобы не" и "что бы ни".
    Dmitriy Dorian
    01.07.2025
    -
    1
    +
    Kiridan, похоже, не только корректор-человек коллективу сайта не по средствам, так и простая проверка ошибок в чат-ботах не по силам.
    +
      ещё комментарии
      Комментарий удален пользователем или модератором...
        Dmitriy Dorian
        03.07.2025
        -
        0
        +
        Aлек, так вот и странно, что корректора нет. Хотя тут и к грамотности авторов тоже вопросы есть.
          Комментарий удален пользователем или модератором...
            Dmitriy Dorian
            05.07.2025
            -
            0
            +
            Aлек, Ну, может быть N-S и не самый плохой в этом плане ресурс. Я не расцениваю это как какой-то конкурс на наименьшее количество ошибок в статьях. Я вижу просто наплевательское отношение и к читателям и неуважение к русскому языку. Что касается статьи на ЛФ, то она слишком спекулятивная и, как это сейчас повсюду в среде ИИ, отражает предельно ангажированный взгляд тех, кто живёт весьма неплохо за счёт грантов и бюджетных вливаний. В то время как убыток OpenAI, например, за 2024 год составил 5 млрд USD. Совсем не соответствует сильно перегретой риторике относительно "светлого будущего ИИ" профильных изданий, на мой взгляд. Кроме этого статья непонятно что описывает: каким именно кораблём? Что такое "управлять"? В каких ситуациях? То, что в синтетических условиях какой-то чат-бот смог выдавать команды для гипотетического корабля, который проводящие эксперимент интерпретировали как "успешное управление" вовсе не ведёт к выводу, о том, что он может управлять, например, посадкой модуля на Луну. Совсем недавно мы видели уже последствия управления такими модулями чисто алгоритмами. Результат был печален.
-
2
+
Это насколько надо непонимать технологии, чтобы писать, что ChatGPT «путает» GUIDы
Nauka Nauka
27.06.2025
-
1
+
Еще немного, господа люди, вы привыкнете быть роботами 😳
Xyi Xui
27.06.2025
-
0
+
Соплижуи достали
Однако... 🧐
Предстоящие мероприятия
1 ноября, 12:08
ПНИПУ

В среднем человек зевает от семи до двадцати трех раз в день. Ученые Пермского Политеха рассказали, что происходит в этот момент с организмом, на кого не распространяется «заразительное» действие, как его эффект меняется в зависимости от наличия стресса, головной боли, сонливости и скуки и почему связь зевоты, нехватки воздуха и терморегуляции вторична.

1 ноября, 14:20
Игорь Байдов

Международная группа ученых провела необычный эксперимент. Исследователи взяли образцы фекалий у детей с разными типами темперамента и пересадили их крысам. После этого животные начали вести себя по-разному: те, кто получил микробиоту от активных детей, стали смелее и больше исследовали новое пространство. Это открытие намекает на то, что бактерии, живущие в кишечнике с детства, в какой-то мере способны влиять на формирование личности.

31 октября, 16:23
ФизТех

Ученые из Московского физико-технического института и НИЦ «Курчатовский институт» разработали новую теоретическую основу для описания фотоэффекта — одного из фундаментальных процессов взаимодействия света и вещества. Они впервые показали, что если измерять вероятность перехода электрона не в обычное, а в закрученное состояние, обладающее собственным моментом вращения, то можно предсказать и наблюдать новые типы асимметрий, особенно важных для изучения «зеркальных» молекул. Этот подход, обобщающий классическое явление фотоэлектронного циркулярного дихроизма, открывает путь к созданию более чувствительных методов анализа сложных органических соединений.

1 ноября, 14:20
Игорь Байдов

Международная группа ученых провела необычный эксперимент. Исследователи взяли образцы фекалий у детей с разными типами темперамента и пересадили их крысам. После этого животные начали вести себя по-разному: те, кто получил микробиоту от активных детей, стали смелее и больше исследовали новое пространство. Это открытие намекает на то, что бактерии, живущие в кишечнике с детства, в какой-то мере способны влиять на формирование личности.

1 ноября, 10:14
Максим

Международная команда ученых обнаружила в море Уэдделла ранее неизвестное место массового гнездования антарктических рыб Lindbergichthys nudifrons. Океанологи зафиксировали скопления более тысячи ухоженных гнезд, расположенных по сложным геометрическим узорам. Коллективное расселение помогает рыбам защищаться от хищников.

1 ноября, 08:50
Любовь С.

Обитающий в полярных районах Северного полушария гренландский кит (Balaena mysticetus) живет более двух столетий и почти не болеет раком. Секрет его долголетия оказался скрыт в клетках соединительной ткани, ответственной за заживление ран: при пониженной температуре в них активируется особый белок, усиливающий восстановление поврежденной ДНК.

25 октября, 10:40
Любовь С.

Проанализировав данные наблюдений, полученных с помощью наземных обсерваторий за последние два десятилетия, астрономы обнаружили потенциально обитаемый мир — суперземлю Gliese 251 c (GJ 251 с). Планета обращается вокруг красного карлика на расстоянии около 18 световых лет от Земли и считается одним из самых перспективных кандидатов для поисков жизни.

13 октября, 11:10
Илья Гриднев

Согласно новой гипотезе, сознание возникает не только из-за активности нейронов, но и благодаря физическим процессам — электромагнитным полям от движения жидкости в мозге. Эта модель, как и ее предшественники, пока носит теоретический характер, но предлагает нестандартный взгляд на проблему синхронизации работы разных отделов мозга.

24 октября, 14:02
РТУ МИРЭА

В современном доме, насыщенном разнообразной техникой, удлинители стали незаменимым атрибутом, позволяющим обеспечить электропитанием все необходимые устройства. Однако мало кто задумывается, что привычное использование этого аксессуара может нести серьезную угрозу безопасности. По статистике, значительная часть бытовых пожаров происходит из-за неправильной эксплуатации электропроводки и вспомогательных устройств. Какие приборы категорически нельзя подключать через удлинители и почему это может привести к трагическим последствиям, рассказывает профессор кафедры наноэлектроники РТУ МИРЭА, доктор физико-математических наук Алексей Юрасов.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно