Как ИИ изменит нашу жизнь — в специальном проекте Naked Science!
Перейти
  • Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
10.02.2021
Василий Парфенов
5 763

Создан универсальный способ обмана детекторов дипфейк-видео, делающий их бессмысленными

5.7

В киберпространстве несколько лет продолжается новая борьба «щита» и «меча» — совершенствование алгоритмов, создающих дипфейк-видео и определяющих подделку. Судя по всему, в этой войне наметился перелом, и он не в пользу «сил света». Исследователи экспериментально подтвердили возможность обмануть любое существующее решение для выявления поддельных роликов.

Создан универсальный способ обмана детекторов дипфейк-видео, делающий их бессмысленными
Николас Кейдж вместо Эми Адамс в фильме «Человек из стали» / ©DeepFake Videos, YouTube

Как пишет портал SciTechDaily со ссылкой на работу американских специалистов по компьютерной инженерии, новая нейросеть довольно простым образом «обманывает» любые детекторы дипфейков. Этот алгоритм был представлен на Зимней конференции по применению компьютерного зрения, которая прошла в январе этого года (WACV 2021). Исследователи настаивают, что их решение демонстрирует неэффективность даже самых совершенных существующих средств определения подлинности видео.

Метод обмана заключается во встраивании специальных «конкурирующих» примеров (можно перевести и как «противостоящих» — adversarial examples) в каждый кадр ролика. Эффект получается поистине обескураживающим: даже наспех состряпанный дипфейк определяется детектором как реальная запись. Хотя неестественность поведения человека на видео очевидна невооруженным глазом. Пример такого обмана исследователи продемонстрировали на практике.

©University of California San Diego, SciTechDaily, YouTube

Что важно, «обманка» работает при перекодировании видео и на множестве самых совершенных детекторов. Фактически специалисты делают вывод, что из-за особенностей выявляющих подделку алгоритмов их все реально легко обвести вокруг пальца.

Подобные разработки могут стать гораздо совершеннее, что снова ставит под вопрос само понятие доверия к видеоряду. А точнее, вызывает опасения, что манипуляции общественным мнением могут оказаться гораздо проще для злоумышленников, чем того хотели бы правоохранительные органы и сами люди. И если поначалу волна дипфейков воспринималась лишь как развлечение, то несколько позднее стала очевидна опасность технологии.

Люди привыкли доверять тому, что видят глазами, а добротно сделанный дипфейк может быть неотличим от реального видео. Порой достаточно даже не заменять лицо человеку, а синхронизировать движения губ с поддельной речью. Масштабы возможного применения таких манипуляций поистине безграничны. И детекторы подобных подделок разрабатывают сотни коллективов по всему миру.

Свежий пример: как сообщает РБК, Министерство внутренних дел России объявило тендер на создание алгоритма для выявления «внутрикадрового монтажа». Сумма контракта составляет почти 4,8 миллиона рублей, но эти средства, скорее всего, будут потрачены впустую. Американские исследователи показали, что создание «необнаружимых» дипфейков было лишь вопросом времени. Разработчикам защитных инструментов придется искать совершенно новые способы определять подделки — и этот процесс может занять очень много времени.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
2 декабря
Алиса Гаджиева

Серию секретных рисунков и надписей, добавленных таинственной женщиной-переписчицей, обнаружили в рукописи возрастом более 1200 лет.

Позавчера, 11:38
Василий Парфенов

На «Заводе 42» компании Northrop Grumman в Палмдейле, штат Калифорния, прошла торжественная церемония выкатки новейшего стратегического бомбардировщика B-21 Raider. Малозаметный самолет должен в ближайшем будущем частично заменить устаревающий парк Rockwell B-1 Lancer и Northrop Grumman B-2 Spirit, и даже взять на себя ряд задач, которые выполняют совсем уж «старички» Boeing B-52 Stratofortress.

2 декабря
Анна Новиковская

Найти лекарство от старости — заветная мечта человечества, но вполне может оказаться, что для мужчин и для женщин их придется разрабатывать по отдельности. Во всяком случае, один из самых многообещающих антивозрастных препаратов, рапамицин, по-разному воздействовал на самцов и самок дрозофил, продлив жизнь одним и не повлияв на других.

2 декабря
Алиса Гаджиева

Серию секретных рисунков и надписей, добавленных таинственной женщиной-переписчицей, обнаружили в рукописи возрастом более 1200 лет.

Позавчера, 11:38
Василий Парфенов

На «Заводе 42» компании Northrop Grumman в Палмдейле, штат Калифорния, прошла торжественная церемония выкатки новейшего стратегического бомбардировщика B-21 Raider. Малозаметный самолет должен в ближайшем будущем частично заменить устаревающий парк Rockwell B-1 Lancer и Northrop Grumman B-2 Spirit, и даже взять на себя ряд задач, которые выполняют совсем уж «старички» Boeing B-52 Stratofortress.

2 декабря
Анна Новиковская

Найти лекарство от старости — заветная мечта человечества, но вполне может оказаться, что для мужчин и для женщин их придется разрабатывать по отдельности. Во всяком случае, один из самых многообещающих антивозрастных препаратов, рапамицин, по-разному воздействовал на самцов и самок дрозофил, продлив жизнь одним и не повлияв на других.

19 ноября
Анна Новиковская

В последний раз черношейного фазанового голубя видели еще в 1882 году, и с тех пор ученые не знали, живет ли еще в лесах острова Фергуссон эта красивая птица. Теперь, наконец, им повезло: одна из камер запечатлела представителя редчайшего подвида фазановых голубей.

24 ноября
Редакция

Режиссер Илай Сасик (Eli Sasich), вдохновившись классическими научно-фантастическими фильмами «Чужой» и «Бегущий по лезвию», несколько лет назад снял короткометражный фильм «Атропа», который стоит посмотреть, если вы интересуетесь наукой и космическими технологиями.

24 ноября
Анна Новиковская

В то время как основные мировые языки со временем упрощают письменность, существует одно яркое исключение: китайский язык. За свою историю, насчитывающую три тысячелетия, его система письма становилась только сложнее и до сих пор остается крайне сложной для изучения.

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: