Пользователи эротических чат-ботов загрузили более миллиона фотографий реальных женщин для создания ИИ-порно

Как сообщает 404media, платформа чат-ботов для ролевых игр SecretDesires.ai оставила в открытом доступе миллионы изображений и видео, многие из них, вероятно, загрузили пользователи сервиса. Среди прочего, компания позволяла создавать «ИИ-компаньона» с лицом любого человека. В облачных контейнерах хранились также фотографии реальных женщин, как знаменитых, так и с небольшим цифровым следом. Сервис позволял создавать эротический контент с лицом любого человека без его согласия.

Платформа хранила ссылки на изображения и видео в незащищенных контейнерах Microsoft Azure Blob. Любой пользователь мог получить доступ к XML-файлам с ссылками на контент и просмотреть данные.

Контейнер removed images содержал около 930 000 изображений. Там были, в том числе знаменитости и очень юные девушки. Помимо популярных персон, там оказались и изображения обычных женщин. Некоторые фотографии похожи на аватарки для социальных сетей, а другие — обычные селфи. 

Контейнер faceswap содержал 50 000 изображений. Там оказались фотографии, в том числе политика во время публичного выступления, давние селфи, сделанные еще на телефоны-раскладушки и фотография женщины с университетским дипломом. Некоторые имена файлов содержали персональные данные. Всего в контейнерах, которые изучило издание, было около 1,8 миллиона отдельных файлов. 

Некоторые лица из контейнера faceswap явно встречаются в сгенерированных материалах в контейнере live photos. Вероятно, эти ролики создал сервис Secret Desires. Многие из этих видео — жесткие порнографических видео, сгенерированные искусственным интеллектом. В этом контейнере были также ролики, на которых очень молодо выглядящие люди занимались сексом.

В начале 2025 года Secret Desires удалила функцию замены лиц, что вызвало волну недовольства у пользователей. Однако 3 ноября платформа по-прежнему указывала face swapping в качестве платной функции. К 11 ноября эта возможность все-таки исчезла.

Secret Desire активно размещает рекламу на Youtube и предлагает создавать сексуализированные версии реальных людей. «ИИ-девушки никогда не говорят нет», — утверждалось в одном из роликов. Согласно рекламе, «ИИ-компаньон» может выглядеть как знаменитость, персонаж аниме или «та самая девушка из спортзала».

Приложения для подмены лиц, ИИ-компаньоны и платформы для эротического ролевого взаимодействия изучаются много лет. Исследования показывают, что есть реальный спрос на такие инструменты. Эти сервисы могут использовать дети, чтобы создать материалы, в том числе, со сверстниками.

Откровенные дипфейки людей, созданные без их согласия, зачастую приводят к негативным последствиям. Они могут повлиять на карьеру, уверенность в себе, а иногда и на физическую безопасность.

Закладка

-

0

+

1,4 тыс

Twitter

VK

Telegram