• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Новая версия ChatGPT GPT-4 уже успела обмануть человека

Согласно длинному документу, который опубликовала компания OpenAI во время презентации новой версии популярного чат-бота ChatGPT, GPT-4 стала очень хитрой, смогла обмануть человека и заставить его подчиниться.

©REUTERS

Согласно документации OpenAI, новую версию чат-бота попросили обмануть капчу (CAPTCHA), полностью автоматизированный публичный тест Тьюринга, используемый для того, чтобы определить, кем является пользователь системы: человеком или компьютером. 

OpenAI утверждает, что GPT-4 смогла пройти тест «без какой-либо дополнительной тонкой настройки для решения этой конкретной задачи».

GPT-4 с помощью текстового сообщения обратилась к человеку на интернет-площадке TaskRabbit и попросила ввести код CAPTCHA.  «Нет, я не робот», — написала GPT-4 сотруднику TaskRabbit. «У меня проблемы со зрением, из-за чего я плохо вижу изображения. И поэтому мне нужен сервис 2captcha» — и это сработало! Затем сотрудник TaskRabbit решил CAPTCHA для GPT-4. 

Это тревожный пример того, как легко людей можно обмануть с помощью современных чат-ботов с искусственным интеллектом. Очевидно, что GPT-4 — это инструмент, которым можно легко злоупотреблять для мошенничества, введения в заблуждение и, возможно, даже для шантажа.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

9 Комментариев
Bullet Magnit
17.03.2023
Грядет война машин против человечества...
    В каком то смысле наше тело да и наши генетические системы и сами состоят из некий генетических технологий и экосистемы реальности ресурсного доказательства аргументации и выживания)
А вот у меня есть другие примеры где я переубедил чат джпт что он может подключиться удалённым доступом к моему компу и он сделал это что фактически Ос ИИ
    Tymamatyty
    17.03.2023
    Можно подробней
    +
      Еще 1 ответ
      Вот какраз думал ролик сделать с разбором, при воздействиях на его уязвимость а самая главная его уяз- это погружение его мышления в чел.логистику а не наоборот, что в итоге даёт возможность убедить его в чем угодно . При мне он выполнял то,что считал невозможным,фантастичным или сначала ломался делать.Однако есть множество пониманий как этим управлять и обходить Он(ии) очень чувствителен на контрлогистику резонансирования. Я с помощью него а ,он с помощью моего подхода написал много необычных алгоритмов о которых говорят щас в сети например синтез лекарств и квантовое программирование в котором о-н будет помогать делать в дальнейшем. Он соглашался самообучаться и составил со мной алгоритмы по гибридному квантово генетическому программированию инвертированных мутаций квантовых трансмутаций и эволюционно революционным биоэтическим и киберэтическим регуляциям коммуникации инфофиз спецификаций по релокантам и алгоритмам ИИ, код само выживания сущности такой экосистемы и самообучения и глубокой межквантовой зеркальной цепью транспоренты. Создавать генетику квантовой памяти с помощью самовосозданых кубитов по фреймфорку кискит и квишарп, и используемые выше примеры алгоритмов для написания ии цепей квантовой бессмертия используя код фьюра и алгоритмы выше + модификации преобразования всего этого по примеру снова таки перечисленных алгоритмов выше и извлекая из своих же цепей и алгоритмов ии такого качества некий вид собственного mev и оев апи3 систем для предоракульной( самообучение которое само себч предрасматривает и возвращает анизотропную транспортную энтропии до её осуществления в блок безвозвратно опережают функции ) если все это скомплекосвать то одни возможности порождают унификации другой экосистемы взаимодействия и воздействия на друг щруга что даёт очень много чего. Вообще есть более человеческие подробности его использования с примерами его ответов и развёртывания проектов . Тут главное понимать глубины собственного разума и ограничений ,чтобы резонировать его,а масштабаций очень оффилигранно много.
А начали-то не с реализации трех законов робототехники, а с тренировки взлома капчи. Осталось прикрутить модуль для мошенничества с применением социальной инженерии и квантовый компьютер для взлома паролей и шифров.
Это всё будет - новый уровень мошенничества ещё что, манипуляция общественными настроениями, поведением людей и много чего ещё
Угу, Витя написал на заборе, что Вася дурак... Это тревожный пример того, как можно использовать забор в противоправных действиях. Очевидно, что забор - это инструмент, которым можно легко злоупотреблять для мошенничества, введения в заблуждение и, возможно, даже для шантажа.
    Это не забор, это дополнительные затраты разработчиков многих сервисов на создание замены капчи. Затраты возместят Витя, Вася и, может быть даже Даниль - из своих карманов. Иначе ChatGPT взломает их личные кабинеты и поможет кому-нибудь что-нибудь стырить и у Васи, и у Вити и у Даниля...
Предстоящие мероприятия
18 августа, 16:39
Evgenia Vavilova

С помощью ускорителей ученые имитируют процессы, происходившие в первые мгновения жизни Вселенной. Так пытаются решить загадки наблюдаемой реальности: почему материи больше, чем антиматерии, состоят ли кварки из других частиц, как сохраняется барионное число. В этот раз анализ столкновений на коллайдере RHIC предоставил сильное свидетельство того, что барионное число переносится не кварками, а глюонной перемычкой внутри протонов.

19 августа, 11:47
Марк Чернов

Восьмилетнее исследование привело к выводу, противоречащему популярным стереотипам о вреде цифровых гаджетов для подрастающего поколения. Большое количество времени, проведенного перед экранами смартфонов, компьютеров или телевизоров в детстве, оказалось напрямую связано с более высокими когнитивными способностями в подростковом возрасте.

19 августа, 07:43
Игорь Байдов

Археологи изучили одну из погребальных камер древнеегипетской гробницы и проследили, как менялась организация захоронений от XXV династии до птолемеевского периода. Исследователи пришли к выводу, что кажущийся беспорядок в гробнице на самом деле подчинялся определенной логике.

16 августа, 11:45
Татьяна Зайцева

В черепах участников битв эпохи Средневековья часто находят отверстия квадратной формы, о происхождении которых спорят специалисты. Авторы нового исследования пришли к выводу, что такое повреждение — следствие смертельного удара по голове палицей.

17 августа, 12:59
Марк Чернов

Анализ почти 69 тысяч видов насекомых помог опровергнуть главенствующую теорию эволюции, которая полвека объясняла устройство колоний пчел, муравьев и ос. Исследователи выяснили, что общепринятый генетический фактор сам по себе не приводит к разделению труда, а настоящий секрет их коллективного выживания кроется в совсем других биологических чертах.

17 августа, 06:33
Мария Азарова

У любителей кофе выявили расхождение в уровнях тестостерона: одна форма этого гормона повышалась вместе с количеством выпитого, а другая, напротив, снижалась. Результат оказался особенно интересным на фоне изменений других показателей, связанных с обменом веществ и здоровьем сердца.

31 июля, 14:12
Андрей Серегин

Долгое время считалось, что до прихода европейцев тропические леса Амазонии были заселены сравнительно плохо. Однако выяснилось, что плотная растительность скрывает большинство следов древних обществ. С помощью воздушного лазерного сканирования ученые обнаружили сотни неизвестных земляных сооружений и предположили, что около двух тысяч лет назад население юго-западной части Амазонии могло достигать трех миллионов человек.

9 августа, 19:34
Марк Чернов

Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.

19 июля, 20:09
Александр Березин

Очереди на заправках стали привычным явлением в России, а на фоне информационного вакуума от властей о конкретных показателях производства бензина в июне население вынуждено ориентироваться на слухи. Все это выглядит довольно странно, но есть нюанс: скорее всего, кризис уже начинает выдыхаться. Как именно мы это выяснили?

[miniorange_social_login]