• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Пользователи обнаружили, что ChatGPT выдает ответы на чужие запросы и делится конфиденциальной информацией

Поскольку искусственный интеллект проникает во многие сферы жизни, конфиденциальность становится все более актуальной проблемой для пользователей, которые задаются вопросом, куда в итоге попадают данные, которыми они делятся с машинами.

Чат-бот с генеративным искусственным интеллектом ChatGPT / © OpenAI
Чат-бот с генеративным искусственным интеллектом ChatGPT / © OpenAI

В последние несколько недель пользователи чат-бота с генеративным искусственным интеллектом ChatGPT компании OpenAI начали бить тревогу в соцсетях по поводу того, что нейросеть выдает им ответы на чужие запросы, среди которых фигурирует персональная информация, включая паспортные данные и детали судебных заседаний.

Часто такое происходит, когда пользователи общаются с машиной через голосовой режим ИИ.

Как сообщило издание New York Post, женщина использовала ChatGPT для составления списка покупок, однако ИИ выдал ей ветку «чужой переписки». Когда она указала программе на ошибку, чат-бот извинился «за путаницу».

Хотя специалисты OpenAI не дали официального ответа, предполагается, что проблема связана с уникальным идентификатором GUID (Globally Unique Identifier). ChatGPT путает идентификаторы чатов из-за огромного потока информации и отправляет свои ответы не туда.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

15 Комментариев
У меня был прикол при анализе договора прислал рецепт утки по пекински. На мой вопрос что за дела, говорит сам офигел, но представь чувака который ждёт рецепт утки и получил ответ по договору 🤣
Все пытаются занизить самого прогрессивного ИИ в мире, он умнеет не по годам, нет бы похвалить только и слышу, он такой он сякой
Kiridan
28.06.2025
"по средствам голосового режима" На "научном", мать его, сайте.
    Kiridan, это робот т9 так выражает свою солидарность с угнетенными собратьями. Не уверен впрочем что автор хотя бы поняла суть претензий, как и редакция которая статьи вроде бы проверяет. Хотя корректора могли и сократить за ненадобностью. Автоколлекторы жи есть 😁
    +
      Еще 1 ответ
      Kiridan
      28.06.2025
      Иван, Я так лет 10 и слышал отмазки про т9, но в основном выкидывали что-нибудь в духе "мы не на диктанте", а потом все выучили слово "душнила", но почему-то не выучив даже такую базу, как отличия между "чтобы не" и "что бы ни".
    Dmitriy Dorian
    01.07.2025
    Kiridan, похоже, не только корректор-человек коллективу сайта не по средствам, так и простая проверка ошибок в чат-ботах не по силам.
    +
      Еще 4 ответа
      Комментарий удален пользователем или модератором...
        Dmitriy Dorian
        03.07.2025
        Aлек, так вот и странно, что корректора нет. Хотя тут и к грамотности авторов тоже вопросы есть.
          Комментарий удален пользователем или модератором...
            Dmitriy Dorian
            05.07.2025
            Aлек, Ну, может быть N-S и не самый плохой в этом плане ресурс. Я не расцениваю это как какой-то конкурс на наименьшее количество ошибок в статьях. Я вижу просто наплевательское отношение и к читателям и неуважение к русскому языку. Что касается статьи на ЛФ, то она слишком спекулятивная и, как это сейчас повсюду в среде ИИ, отражает предельно ангажированный взгляд тех, кто живёт весьма неплохо за счёт грантов и бюджетных вливаний. В то время как убыток OpenAI, например, за 2024 год составил 5 млрд USD. Совсем не соответствует сильно перегретой риторике относительно "светлого будущего ИИ" профильных изданий, на мой взгляд. Кроме этого статья непонятно что описывает: каким именно кораблём? Что такое "управлять"? В каких ситуациях? То, что в синтетических условиях какой-то чат-бот смог выдавать команды для гипотетического корабля, который проводящие эксперимент интерпретировали как "успешное управление" вовсе не ведёт к выводу, о том, что он может управлять, например, посадкой модуля на Луну. Совсем недавно мы видели уже последствия управления такими модулями чисто алгоритмами. Результат был печален.
Это насколько надо непонимать технологии, чтобы писать, что ChatGPT «путает» GUIDы
Nauka Nauka
27.06.2025
Еще немного, господа люди, вы привыкнете быть роботами 😳
Xyi Xui
27.06.2025
Соплижуи достали
Однако... 🧐
Предстоящие мероприятия
7 сентября, 12:55
НовГУ

91% родителей считают игры важными для развития ребенка, однако лишь единицы сами предлагают детям поиграть. Взрослые сильно тревожатся из-за увлечения детей смартфонами, хотя зачастую сами преувеличивают время, которое школьники проводят в сети. К таким выводам пришли ученые НовГУ, изучив, как гаджеты и занятость взрослых меняют досуг младшеклассников.

7 сентября, 11:15
Росатом

Акционерное общество «Росатом — Возобновляемая энергия» построит в Амурской области завод по сборке элементов ветрогенераторов. Оборудование потребуется для будущих ветроэлектростанций на Дальнем Востоке. Сейчас крупные детали производят практически в другом конце страны. Собирать крупные узлы на месте будет дешевле, чем везти их.

7 сентября, 15:18
Александр Березин

С помпой объявленный два года назад проект Илона Маска наконец стал официально перевозить людей. Американские власти уже начали аудит того, насколько легальны такие машины, многие сомневаются в успешности проекта для Tesla. Впрочем, у него есть проблемы куда серьезнее и аудита, и плохого отношения западных медиа к главе компании.

2 сентября, 11:31
СПбГУ

Группа российских исследователей, в которую вошли океанологи Санкт-Петербургского университета, выявила существование ранее неизвестных механизмов распространения «волн Россби». В ходе работы им удалось зафиксировать точки, где перенос энергии прекращается, а траектории движения воды претерпевают изменения. Дополнительно ученые обнаружили асимметрию в динамике волновых процессов, зарождающихся у западных и восточных прибрежных течений.

3 сентября, 17:08
Росатом

«Росатом» рассматривает возможность создать под Мурманском новое предприятие для достройки плавучих атомных энергоблоков. Причина в том, что количество заказов госкорпорации растет, а существующих мощностей партнеров может не хватить.

1 сентября, 12:12
НовГУ

В XIV и XV веках состоятельные новгородцы отдавали предпочтение импортной одежде насыщенного красного цвета, а главным поставщиком европейских тканей на Русь выступал Ганзейский союз. Детали этой торговли исследовала аспирант НовГУ Елизавета Калугина.

9 августа, 19:34
Марк Чернов

Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.

28 августа, 15:43
Татьяна Зайцева

Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.

19 августа, 18:31
Александр Березин

После сокращения длины очередей и роста доступности бензина в первую неделю августа ситуация снова ухудшилась. Если с 20 июня по начало августа кризис носил в основном психологический характер, то сейчас ситуация принципиально иная: августовские атаки на НПЗ показали, что меры по усилению их противовоздушной обороны не были достаточно полными. Значит, прогноз автора Naked Science от 19 июля о том, что острая фаза кризиса закончится до конца лета, был частично неверным.

[miniorange_social_login]