• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Пользователи обнаружили, что ChatGPT выдает ответы на чужие запросы и делится конфиденциальной информацией

Поскольку искусственный интеллект проникает во многие сферы жизни, конфиденциальность становится все более актуальной проблемой для пользователей, которые задаются вопросом, куда в итоге попадают данные, которыми они делятся с машинами.

Чат-бот с генеративным искусственным интеллектом ChatGPT / © OpenAI
Чат-бот с генеративным искусственным интеллектом ChatGPT / © OpenAI

В последние несколько недель пользователи чат-бота с генеративным искусственным интеллектом ChatGPT компании OpenAI начали бить тревогу в соцсетях по поводу того, что нейросеть выдает им ответы на чужие запросы, среди которых фигурирует персональная информация, включая паспортные данные и детали судебных заседаний.

Часто такое происходит, когда пользователи общаются с машиной через голосовой режим ИИ.

Как сообщило издание New York Post, женщина использовала ChatGPT для составления списка покупок, однако ИИ выдал ей ветку «чужой переписки». Когда она указала программе на ошибку, чат-бот извинился «за путаницу».

Хотя специалисты OpenAI не дали официального ответа, предполагается, что проблема связана с уникальным идентификатором GUID (Globally Unique Identifier). ChatGPT путает идентификаторы чатов из-за огромного потока информации и отправляет свои ответы не туда.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

17 Комментариев
Sergey Kislitsyn
6 дней назад
-
1
+
У меня был прикол при анализе договора прислал рецепт утки по пекински. На мой вопрос что за дела, говорит сам офигел, но представь чувака который ждёт рецепт утки и получил ответ по договору 🤣
Руслан Камалдинов
1 неделя назад
-
0
+
Все пытаются занизить самого прогрессивного ИИ в мире, он умнеет не по годам, нет бы похвалить только и слышу, он такой он сякой
Kiridan
1 неделя назад
-
3
+
"по средствам голосового режима" На "научном", мать его, сайте.
    Иван Колупаев
    1 неделя назад
    -
    2
    +
    Kiridan, это робот т9 так выражает свою солидарность с угнетенными собратьями. Не уверен впрочем что автор хотя бы поняла суть претензий, как и редакция которая статьи вроде бы проверяет. Хотя корректора могли и сократить за ненадобностью. Автоколлекторы жи есть 😁
    +
      ещё комментарии
      Kiridan
      1 неделя назад
      -
      1
      +
      Иван, Я так лет 10 и слышал отмазки про т9, но в основном выкидывали что-нибудь в духе "мы не на диктанте", а потом все выучили слово "душнила", но почему-то не выучив даже такую базу, как отличия между "чтобы не" и "что бы ни".
    Dmitriy Dorian
    6 дней назад
    -
    1
    +
    Kiridan, похоже, не только корректор-человек коллективу сайта не по средствам, так и простая проверка ошибок в чат-ботах не по силам.
    +
      ещё комментарии
      Aлек сей Нии_pet
      5 дней назад
      -
      0
      +
      ну если так - на дист.фриланс в провинции полно желающих! хоть ш табелями;
        Dmitriy Dorian
        5 дней назад
        -
        0
        +
        Aлек, так вот и странно, что корректора нет. Хотя тут и к грамотности авторов тоже вопросы есть.
          Aлек сей Нии_pet
          3 дня назад
          -
          0
          +
          Dим, я уже так наелся правописательной грамотности на разных "научных" разделах массовых-популярных сайтов, что N-S мне кажется оазисом по сравнению. проблема сейчас в том что "нанимают корректором" ии, а тот ещё свои ошибки привносит, после чего редакторы подмахивают не проверяя; особенно добивает "ни кто" и тому подобное. ну да я не об этом; вот, смотри чего может уже сейчас типовой игровой Ии: https://lifehacker.ru/chatgpt-mozhet-upravlyat-kosmicheskim-korablem/ разве можно им отдавать управление? будет уже не забрать! это как в глобальной электросети: цепочка отказов, и никому неясно, в какой момент началось и как предотвращать
            Dmitriy Dorian
            2 дня назад
            -
            0
            +
            Aлек, Ну, может быть N-S и не самый плохой в этом плане ресурс. Я не расцениваю это как какой-то конкурс на наименьшее количество ошибок в статьях. Я вижу просто наплевательское отношение и к читателям и неуважение к русскому языку. Что касается статьи на ЛФ, то она слишком спекулятивная и, как это сейчас повсюду в среде ИИ, отражает предельно ангажированный взгляд тех, кто живёт весьма неплохо за счёт грантов и бюджетных вливаний. В то время как убыток OpenAI, например, за 2024 год составил 5 млрд USD. Совсем не соответствует сильно перегретой риторике относительно "светлого будущего ИИ" профильных изданий, на мой взгляд. Кроме этого статья непонятно что описывает: каким именно кораблём? Что такое "управлять"? В каких ситуациях? То, что в синтетических условиях какой-то чат-бот смог выдавать команды для гипотетического корабля, который проводящие эксперимент интерпретировали как "успешное управление" вовсе не ведёт к выводу, о том, что он может управлять, например, посадкой модуля на Луну. Совсем недавно мы видели уже последствия управления такими модулями чисто алгоритмами. Результат был печален.
              Aлек сей Нии_pet
              5 часов назад
              -
              0
              +
              ?? это всё спешка проклятая! иногда делаю ошибки, в которые перечитывая поверить сам не могу; ещё знаки препинания - иногда кажется что "явно лишние" запятые только ухудшат понимание фразы.. про успешность управления - здесь как раз понятно всё: в условиях игрового поля количество ошибок стремится к нулю, а в реале - ну кто ж его знает, как внештатные ситуации будут обсчитываться? от степени его обученности зависит > вот что касается "живых" интеллектов, которые проектируют КА в виде обычной вертикальной тумбы, да ещё снабжая односторонними солнечными батареями - здесь более вопрос конечно. ну и насчёт "пузыря" Ии - обычно хайтеком занимаются технари; computer science это довольно условная, собирательная дисциплина. сейчас в эту отрасль, щедро снабжённую деньгами и железом, должны явиться основательные мозги на долговременной основе, и кто сможет обеспечить им условия для работы, пожнёт преимущества будущей универсализации. мобильные технологии тоже не сразу утряслись, (пока знаю только пример IBM как долговременной цифровой экосистемы - у WIntel-а намечалось, но с приходом Балмера разрушилось окончательно)
Денис Бесков
1 неделя назад
-
2
+
Это насколько надо непонимать технологии, чтобы писать, что ChatGPT «путает» GUIDы
Nauka Nauka
2 недели назад
-
1
+
Еще немного, господа люди, вы привыкнете быть роботами 😳
Xyi Xui
2 недели назад
-
0
+
Соплижуи достали
Эвелина Киблицкая
2 недели назад
-
0
+
Однако... 🧐
Предстоящие мероприятия
7 июля, 09:27
Полина Меньшова

Пожилые женщины, чувствующие себя одинокими, оказались более склонны к просмотру телевизора, чем мужчины. К такому выводу пришла международная команда ученых.

7 июля, 12:12
Юлия Тарасова

Новое исследование показало, что учащиеся вузов с более выраженными чертами нарциссизма, макиавеллизма, психопатии, а также материализма могут быть сильнее предрасположены к академическому обману и злоупотреблению нейросетями при выполнении учебных заданий.

7 июля, 17:34
Юлия Тарасова

Для принятия верных решений необходимо точно оценивать вероятность того или иного исхода в условиях неопределенности. В новом исследовании профессор экономики и поведенческих наук из Университета Бата (Великобритания) Крис Доусон установил, что обладатели развитого интеллекта гораздо меньше, чем индивидуумы с более низким IQ, ошибаются в предвидении будущего. По мнению ученого, именно это позволяет умным людям выбирать правильные решения и добиваться больших успехов в жизни.

2 июля, 11:17
Юлия Тарасова

Результаты эксперимента в США в будущем могут позволить добиться разрешения на использование отработанной конопли в качестве кормовой добавки в животноводстве.

4 июля, 11:27
НовГУ

Исследование НовГУ показало, что атлетическая гимнастика — один из самых эффективных способов борьбы с ожирением, в отличие, например, от бега. Тренировки с отягощениями не только помогают сжечь жир, но и укреплять мышцы, при этом щадя суставы и сердечно-сосудистую систему. Назван и оптимальный комплекс упражнений для таких людей: три силовые тренировки в неделю по 40–90 минут.

7 июля, 09:27
Полина Меньшова

Пожилые женщины, чувствующие себя одинокими, оказались более склонны к просмотру телевизора, чем мужчины. К такому выводу пришла международная команда ученых.

17 июня, 16:49
Адель Романова

Радиотелескопы уловили очень короткий сигнал, и по его характеристикам стало ясно, что он не может быть естественного происхождения. Астрономы пришли к выводу, что источник находился в околоземном пространстве — там, где уже более полувека летает «мертвый» аппарат NASA.

25 июня, 15:19
ФизТех

Группа российских ученых из Института прикладной математики имени М. В. Келдыша РАН и МФТИ провела детальное численное исследование источников шума, генерируемых крылом прототипа сверхзвукового бизнес-джета в режиме посадки. Эта работа, сочетающая передовые методы вычислительной гидродинамики и аэроакустики, впервые позволила с высокой точностью локализовать и охарактеризовать основные зоны шумообразования вблизи полноразмерной геометрии крыла модели прототипа сверхзвукового пассажирского самолета в посадочной конфигурации.

2 июля, 11:17
Юлия Тарасова

Результаты эксперимента в США в будущем могут позволить добиться разрешения на использование отработанной конопли в качестве кормовой добавки в животноводстве.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно