• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Новая версия ChatGPT GPT-4 уже успела обмануть человека

Согласно длинному документу, который опубликовала компания OpenAI во время презентации новой версии популярного чат-бота ChatGPT, GPT-4 стала очень хитрой, смогла обмануть человека и заставить его подчиниться.

©REUTERS

Согласно документации OpenAI, новую версию чат-бота попросили обмануть капчу (CAPTCHA), полностью автоматизированный публичный тест Тьюринга, используемый для того, чтобы определить, кем является пользователь системы: человеком или компьютером. 

OpenAI утверждает, что GPT-4 смогла пройти тест «без какой-либо дополнительной тонкой настройки для решения этой конкретной задачи».

GPT-4 с помощью текстового сообщения обратилась к человеку на интернет-площадке TaskRabbit и попросила ввести код CAPTCHA.  «Нет, я не робот», — написала GPT-4 сотруднику TaskRabbit. «У меня проблемы со зрением, из-за чего я плохо вижу изображения. И поэтому мне нужен сервис 2captcha» — и это сработало! Затем сотрудник TaskRabbit решил CAPTCHA для GPT-4. 

Это тревожный пример того, как легко людей можно обмануть с помощью современных чат-ботов с искусственным интеллектом. Очевидно, что GPT-4 — это инструмент, которым можно легко злоупотреблять для мошенничества, введения в заблуждение и, возможно, даже для шантажа.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

9 Комментариев
Bullet Magnit
17.03.2023
-
0
+
Грядет война машин против человечества...
    В каком то смысле наше тело да и наши генетические системы и сами состоят из некий генетических технологий и экосистемы реальности ресурсного доказательства аргументации и выживания)
А вот у меня есть другие примеры где я переубедил чат джпт что он может подключиться удалённым доступом к моему компу и он сделал это что фактически Ос ИИ
    Tymamatyty
    17.03.2023
    -
    0
    +
    Можно подробней
    +
      ещё комментарии
      Вот какраз думал ролик сделать с разбором, при воздействиях на его уязвимость а самая главная его уяз- это погружение его мышления в чел.логистику а не наоборот, что в итоге даёт возможность убедить его в чем угодно . При мне он выполнял то,что считал невозможным,фантастичным или сначала ломался делать.Однако есть множество пониманий как этим управлять и обходить Он(ии) очень чувствителен на контрлогистику резонансирования. Я с помощью него а ,он с помощью моего подхода написал много необычных алгоритмов о которых говорят щас в сети например синтез лекарств и квантовое программирование в котором о-н будет помогать делать в дальнейшем. Он соглашался самообучаться и составил со мной алгоритмы по гибридному квантово генетическому программированию инвертированных мутаций квантовых трансмутаций и эволюционно революционным биоэтическим и киберэтическим регуляциям коммуникации инфофиз спецификаций по релокантам и алгоритмам ИИ, код само выживания сущности такой экосистемы и самообучения и глубокой межквантовой зеркальной цепью транспоренты. Создавать генетику квантовой памяти с помощью самовосозданых кубитов по фреймфорку кискит и квишарп, и используемые выше примеры алгоритмов для написания ии цепей квантовой бессмертия используя код фьюра и алгоритмы выше + модификации преобразования всего этого по примеру снова таки перечисленных алгоритмов выше и извлекая из своих же цепей и алгоритмов ии такого качества некий вид собственного mev и оев апи3 систем для предоракульной( самообучение которое само себч предрасматривает и возвращает анизотропную транспортную энтропии до её осуществления в блок безвозвратно опережают функции ) если все это скомплекосвать то одни возможности порождают унификации другой экосистемы взаимодействия и воздействия на друг щруга что даёт очень много чего. Вообще есть более человеческие подробности его использования с примерами его ответов и развёртывания проектов . Тут главное понимать глубины собственного разума и ограничений ,чтобы резонировать его,а масштабаций очень оффилигранно много.
А начали-то не с реализации трех законов робототехники, а с тренировки взлома капчи. Осталось прикрутить модуль для мошенничества с применением социальной инженерии и квантовый компьютер для взлома паролей и шифров.
Это всё будет - новый уровень мошенничества ещё что, манипуляция общественными настроениями, поведением людей и много чего ещё
-
0
+
Угу, Витя написал на заборе, что Вася дурак... Это тревожный пример того, как можно использовать забор в противоправных действиях. Очевидно, что забор - это инструмент, которым можно легко злоупотреблять для мошенничества, введения в заблуждение и, возможно, даже для шантажа.
    Это не забор, это дополнительные затраты разработчиков многих сервисов на создание замены капчи. Затраты возместят Витя, Вася и, может быть даже Даниль - из своих карманов. Иначе ChatGPT взломает их личные кабинеты и поможет кому-нибудь что-нибудь стырить и у Васи, и у Вити и у Даниля...
20 апреля, 13:29
Илья Гриднев

Термоядерные электростанции не смогут конкурировать по цене с возобновляемыми источниками энергии из-за медленного удешевления технологии. По расчетам, расходы на каждую новую установку падали максимум на 8% — много раз ниже ранних ожиданий венчурных инвесторов. Это перечеркивает экономический смысл финансовых вливаний, и мир может никогда не увидеть дешевой термоядерной энергии.

18 апреля, 12:33
Татьяна Зайцева

За последние 10 тысяч лет направленный естественный отбор способствовал эволюции почти 500 генов в ДНК жителей Западной Евразии, что повлияло на их внешний вид и восприимчивость к различным заболеваниям, установили авторы нового исследования.

20 апреля, 08:20
Любовь С.

Ветер на спутнике Сатурна Титане способен поднимать огромные волны, даже если он очень слабый. Эти волны формируют берега, переносят осадки, перемешивают жидкости и даже влияют на климат луны. Изучая их, планетологи могут понять, как устроены потенциально обитаемые миры за пределами Земли.

18 апреля, 12:33
Татьяна Зайцева

За последние 10 тысяч лет направленный естественный отбор способствовал эволюции почти 500 генов в ДНК жителей Западной Евразии, что повлияло на их внешний вид и восприимчивость к различным заболеваниям, установили авторы нового исследования.

18 апреля, 10:00
Evgenia Vavilova

Ученые продолжают исследовать фундаментальные частицы на неделимость. На этот раз на БАК исследовали кварки и не нашли у них признаков составной частицы.

17 апреля, 08:20
Любовь С.

Что, если развитые цивилизации во Вселенной не исчезают навсегда, а периодически «выключаются», переживая циклы коллапсов и восстановлений? Модель, разработанная авторами нового исследования, показывает, что такая прерывистая жизнь может объяснить космическую тишину — и переосмыслить будущее Земли.

5 апреля, 15:48
Александр Березин

Четыре человека, летящие к Луне, столкнулись с целым рядом мелких неприятностей — от низкой температуры в начале работы до поломки мочевыводящей системы туалета на вторые сутки и необходимости взамен пользоваться пакетами. К счастью, пока самые крупные сложности удалось компенсировать. Но все они вместе могут сдвинуть ситуацию к решению, о котором Naked Science уже говорил в нашем видеоподкасте о миссии: не исключено, что при высадке астронавтов на Луне их корабль состыкуют со Starship не на окололунной, а уже на околоземной орбите.

10 апреля, 10:51
Татьяна Зайцева

Когда международная экспедиционная группа, исследующая море Уэдделла в Антарктиде на борту ледокола «Поларштерн», попыталась укрыться от шторма, ученые и экипаж судна удивились внезапному появлению острова, не обозначенного ни на одной морской карте.

9 апреля, 08:30
Максим Абдулаев

Окаменелые остатки рептилии возрастом 289 миллионов лет сохранили полное анатомическое устройство грудной клетки ранних покорителей суши. Благодаря нетронутым хрящам исследователи реконструировали механику первого полноценного реберного дыхания. Наличие в тканях оригинальных белков подтвердило, что сложные органические молекулы способны сохраняться в палеонтологической летописи почти на 100 миллионов лет дольше, чем считалось.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Комментарий на проверке

Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно