• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Новая версия ChatGPT GPT-4 уже успела обмануть человека

Согласно длинному документу, который опубликовала компания OpenAI во время презентации новой версии популярного чат-бота ChatGPT, GPT-4 стала очень хитрой, смогла обмануть человека и заставить его подчиниться.

©REUTERS

Согласно документации OpenAI, новую версию чат-бота попросили обмануть капчу (CAPTCHA), полностью автоматизированный публичный тест Тьюринга, используемый для того, чтобы определить, кем является пользователь системы: человеком или компьютером. 

OpenAI утверждает, что GPT-4 смогла пройти тест «без какой-либо дополнительной тонкой настройки для решения этой конкретной задачи».

GPT-4 с помощью текстового сообщения обратилась к человеку на интернет-площадке TaskRabbit и попросила ввести код CAPTCHA.  «Нет, я не робот», — написала GPT-4 сотруднику TaskRabbit. «У меня проблемы со зрением, из-за чего я плохо вижу изображения. И поэтому мне нужен сервис 2captcha» — и это сработало! Затем сотрудник TaskRabbit решил CAPTCHA для GPT-4. 

Это тревожный пример того, как легко людей можно обмануть с помощью современных чат-ботов с искусственным интеллектом. Очевидно, что GPT-4 — это инструмент, которым можно легко злоупотреблять для мошенничества, введения в заблуждение и, возможно, даже для шантажа.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

9 Комментариев
Bullet Magnit
17.03.2023
-
0
+
Грядет война машин против человечества...
    В каком то смысле наше тело да и наши генетические системы и сами состоят из некий генетических технологий и экосистемы реальности ресурсного доказательства аргументации и выживания)
А вот у меня есть другие примеры где я переубедил чат джпт что он может подключиться удалённым доступом к моему компу и он сделал это что фактически Ос ИИ
    Tymamatyty
    17.03.2023
    -
    0
    +
    Можно подробней
    +
      ещё комментарии
      Вот какраз думал ролик сделать с разбором, при воздействиях на его уязвимость а самая главная его уяз- это погружение его мышления в чел.логистику а не наоборот, что в итоге даёт возможность убедить его в чем угодно . При мне он выполнял то,что считал невозможным,фантастичным или сначала ломался делать.Однако есть множество пониманий как этим управлять и обходить Он(ии) очень чувствителен на контрлогистику резонансирования. Я с помощью него а ,он с помощью моего подхода написал много необычных алгоритмов о которых говорят щас в сети например синтез лекарств и квантовое программирование в котором о-н будет помогать делать в дальнейшем. Он соглашался самообучаться и составил со мной алгоритмы по гибридному квантово генетическому программированию инвертированных мутаций квантовых трансмутаций и эволюционно революционным биоэтическим и киберэтическим регуляциям коммуникации инфофиз спецификаций по релокантам и алгоритмам ИИ, код само выживания сущности такой экосистемы и самообучения и глубокой межквантовой зеркальной цепью транспоренты. Создавать генетику квантовой памяти с помощью самовосозданых кубитов по фреймфорку кискит и квишарп, и используемые выше примеры алгоритмов для написания ии цепей квантовой бессмертия используя код фьюра и алгоритмы выше + модификации преобразования всего этого по примеру снова таки перечисленных алгоритмов выше и извлекая из своих же цепей и алгоритмов ии такого качества некий вид собственного mev и оев апи3 систем для предоракульной( самообучение которое само себч предрасматривает и возвращает анизотропную транспортную энтропии до её осуществления в блок безвозвратно опережают функции ) если все это скомплекосвать то одни возможности порождают унификации другой экосистемы взаимодействия и воздействия на друг щруга что даёт очень много чего. Вообще есть более человеческие подробности его использования с примерами его ответов и развёртывания проектов . Тут главное понимать глубины собственного разума и ограничений ,чтобы резонировать его,а масштабаций очень оффилигранно много.
А начали-то не с реализации трех законов робототехники, а с тренировки взлома капчи. Осталось прикрутить модуль для мошенничества с применением социальной инженерии и квантовый компьютер для взлома паролей и шифров.
Это всё будет - новый уровень мошенничества ещё что, манипуляция общественными настроениями, поведением людей и много чего ещё
-
0
+
Угу, Витя написал на заборе, что Вася дурак... Это тревожный пример того, как можно использовать забор в противоправных действиях. Очевидно, что забор - это инструмент, которым можно легко злоупотреблять для мошенничества, введения в заблуждение и, возможно, даже для шантажа.
    Это не забор, это дополнительные затраты разработчиков многих сервисов на создание замены капчи. Затраты возместят Витя, Вася и, может быть даже Даниль - из своих карманов. Иначе ChatGPT взломает их личные кабинеты и поможет кому-нибудь что-нибудь стырить и у Васи, и у Вити и у Даниля...
Предстоящие мероприятия
29 апреля, 13:04
Александр Березин

Релиз довольно неожиданно перенес время образования протонов и нейтронов в более раннее прошлое Вселенной. К сожалению, из его текста осталось неясным научное обоснование таких фундаментальных изменений в космологии. Также он резко передвинул в прошлое и момент возникновения реликтового излучения.

29 апреля, 14:23
Игорь Байдов

Ученые, похоже, приблизились к разгадке происхождения пшеницы мягкой — той самой, из которой делают большую часть хлеба и другие мучные изделия. Согласно авторам нового исследования, она, предположительно, появилась 8000 лет назад на территории современной Грузии и Армении.

29 апреля, 11:03
Татьяна Зайцева

Ученые смогли установить, что обломки затонувшего корабля, обнаруженные на морском дне возле испанского города Кадис, принадлежали генуэзскому торговому судну. Его потопили в 1587 году, во время налета на город английской эскадры под командованием Фрэнсиса Дрейка.

27 апреля, 16:43
Александр Березин

Поставщик элементов окололунной станции попытался сдать клиентам изделия, подвергшиеся коррозии еще до начала его монтажа. Об этом заявил новый глава NASA Джаред Айзекман. Защищая свою позицию, поставщик сообщил, что ранее он поставлял модули с коррозией для МКС, но они все равно до сих пор работают. NASA использует скандал для отказа от алогичного проекта Lunar Gateway, обитаемой космической станции на окололунной орбите.

29 апреля, 13:04
Александр Березин

Релиз довольно неожиданно перенес время образования протонов и нейтронов в более раннее прошлое Вселенной. К сожалению, из его текста осталось неясным научное обоснование таких фундаментальных изменений в космологии. Также он резко передвинул в прошлое и момент возникновения реликтового излучения.

29 апреля, 14:23
Игорь Байдов

Ученые, похоже, приблизились к разгадке происхождения пшеницы мягкой — той самой, из которой делают большую часть хлеба и другие мучные изделия. Согласно авторам нового исследования, она, предположительно, появилась 8000 лет назад на территории современной Грузии и Армении.

23 апреля, 18:34
Александр Березин

В последнее время пуски с российских северных космодромов осуществляют без предварительного уведомления, чего не было в прошлом. Вероятно, дело в недавно упомянутых главой «Роскосмоса» атаках на Плесецк во время пуска. Сегодняшний запуск обеспечил вывод на орбиту космических аппаратов военного назначения.

10 апреля, 10:51
Татьяна Зайцева

Когда международная экспедиционная группа, исследующая море Уэдделла в Антарктиде на борту ледокола «Поларштерн», попыталась укрыться от шторма, ученые и экипаж судна удивились внезапному появлению острова, не обозначенного ни на одной морской карте.

9 апреля, 08:30
Максим Абдулаев

Окаменелые остатки рептилии возрастом 289 миллионов лет сохранили полное анатомическое устройство грудной клетки ранних покорителей суши. Благодаря нетронутым хрящам исследователи реконструировали механику первого полноценного реберного дыхания. Наличие в тканях оригинальных белков подтвердило, что сложные органические молекулы способны сохраняться в палеонтологической летописи почти на 100 миллионов лет дольше, чем считалось.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Комментарий на проверке

Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно