Создан универсальный способ обмана детекторов дипфейк-видео, делающий их бессмысленными — Naked Science
5 минут
Василий Парфенов

Создан универсальный способ обмана детекторов дипфейк-видео, делающий их бессмысленными

5.7

В киберпространстве несколько лет продолжается новая борьба «щита» и «меча» — совершенствование алгоритмов, создающих дипфейк-видео и определяющих подделку. Судя по всему, в этой войне наметился перелом, и он не в пользу «сил света». Исследователи экспериментально подтвердили возможность обмануть любое существующее решение для выявления поддельных роликов.

Создан универсальный способ обмана детекторов дипфейк-видео, делающий их бессмысленными
Николас Кейдж вместо Эми Адамс в фильме «Человек из стали» / ©DeepFake Videos, YouTube

Как пишет портал SciTechDaily со ссылкой на работу американских специалистов по компьютерной инженерии, новая нейросеть довольно простым образом «обманывает» любые детекторы дипфейков. Этот алгоритм был представлен на Зимней конференции по применению компьютерного зрения, которая прошла в январе этого года (WACV 2021). Исследователи настаивают, что их решение демонстрирует неэффективность даже самых совершенных существующих средств определения подлинности видео.

Метод обмана заключается во встраивании специальных «конкурирующих» примеров (можно перевести и как «противостоящих» — adversarial examples) в каждый кадр ролика. Эффект получается поистине обескураживающим: даже наспех состряпанный дипфейк определяется детектором как реальная запись. Хотя неестественность поведения человека на видео очевидна невооруженным глазом. Пример такого обмана исследователи продемонстрировали на практике.

©University of California San Diego, SciTechDaily, YouTube

Что важно, «обманка» работает при перекодировании видео и на множестве самых совершенных детекторов. Фактически специалисты делают вывод, что из-за особенностей выявляющих подделку алгоритмов их все реально легко обвести вокруг пальца.

Подобные разработки могут стать гораздо совершеннее, что снова ставит под вопрос само понятие доверия к видеоряду. А точнее, вызывает опасения, что манипуляции общественным мнением могут оказаться гораздо проще для злоумышленников, чем того хотели бы правоохранительные органы и сами люди. И если поначалу волна дипфейков воспринималась лишь как развлечение, то несколько позднее стала очевидна опасность технологии.

Люди привыкли доверять тому, что видят глазами, а добротно сделанный дипфейк может быть неотличим от реального видео. Порой достаточно даже не заменять лицо человеку, а синхронизировать движения губ с поддельной речью. Масштабы возможного применения таких манипуляций поистине безграничны. И детекторы подобных подделок разрабатывают сотни коллективов по всему миру.

Свежий пример: как сообщает РБК, Министерство внутренних дел России объявило тендер на создание алгоритма для выявления «внутрикадрового монтажа». Сумма контракта составляет почти 4,8 миллиона рублей, но эти средства, скорее всего, будут потрачены впустую. Американские исследователи показали, что создание «необнаружимых» дипфейков было лишь вопросом времени. Разработчикам защитных инструментов придется искать совершенно новые способы определять подделки — и этот процесс может занять очень много времени.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
11 часов назад
5 минут
Мария Азарова

В среднем интернет-пользователь тратит 32 секунды на выполнение задачи CAPTCHA, подсчитали эксперты. Таким образом, в сумме у человечества ежедневно уходит 500 лет на доказательство того, что мы не роботы.

Позавчера, 10:05
2 минуты
Sergei Sobol

Обращаете внимание, какой творческий подход проявляют дизайнеры при создании электрических мотоциклов? Каждый из них уникален своими особенностями, и наш сегодняшний фаворит – концептуальный электрический байк BMW Motorrad – не исключение. Он создан дизайнером из Валенсии Яго Валино (Iago Valino), вдохновившимся кастомными мотоциклами мастерской El Solitario. А эстетика байка навеяна культовыми мотоциклами Ural, в которые советские инженеры добавили собственный взгляд на традиции BMW.

Позавчера, 12:51
39 минут
Александр Березин

В июне 2020 года канадские астрономы рассчитали, что в Млечном Пути может быть пять миллиардов планет, похожих на Землю и вращающихся вокруг звезд, похожих на Солнце. Однако это лишь видимая часть айсберга обитаемых планет. Дело не только в том, что вокруг звезд других типов их больше: и сами условия на экзопланетах в других системах могут быть куда благоприятнее для жизни, чем у нас с вами. Попробуем понять почему.

Позавчера, 12:51
39 минут
Александр Березин

В июне 2020 года канадские астрономы рассчитали, что в Млечном Пути может быть пять миллиардов планет, похожих на Землю и вращающихся вокруг звезд, похожих на Солнце. Однако это лишь видимая часть айсберга обитаемых планет. Дело не только в том, что вокруг звезд других типов их больше: и сами условия на экзопланетах в других системах могут быть куда благоприятнее для жизни, чем у нас с вами. Попробуем понять почему.

Позавчера, 10:05
2 минуты
Sergei Sobol

Обращаете внимание, какой творческий подход проявляют дизайнеры при создании электрических мотоциклов? Каждый из них уникален своими особенностями, и наш сегодняшний фаворит – концептуальный электрический байк BMW Motorrad – не исключение. Он создан дизайнером из Валенсии Яго Валино (Iago Valino), вдохновившимся кастомными мотоциклами мастерской El Solitario. А эстетика байка навеяна культовыми мотоциклами Ural, в которые советские инженеры добавили собственный взгляд на традиции BMW.

14 мая
2 минуты
Илья Ведмеденко

Как следует из обнародованных материалов, дальность действия перспективной американской системы гиперзвукового оружия Long Range Hypersonic Weapon превышает 2775 километров.

25 апреля
17 минут
Александр Березин

На этой неделе СМИ выдали новость, от которой можно впасть в шок: «Ранее из России уезжало около 14 тысяч исследователей [в год], теперь — 70 тысяч». Мы внимательно разобрались в ситуации и вынуждены отметить, что ничего подобного не было и нет. В реальности речь вовсе не об ученых и даже не о высококвалифицированных специалистах. Проблемы с учеными в России есть. Но в этом случае речь идет не о них, а о том, что отдельные бывшие комсомольские вожаки, удачно устроившиеся в РАН, перепутали утечку мозгов из России с отъездом из нее гастарбайтеров. Разбираемся, как это у них получилось.

23 апреля
11 минут
Василий Парфенов

Действующий глава NASA в рамках общения с прессой ответил на ряд вопросов, касающихся недавних заявлений российских политиков и главы «Роскосмоса» о скором отказе от собственного сегмента МКС. Администратор заверил всех, что агентство находится в хороших отношениях с Россией, а также поделился информацией о согласовании обмена местами для астронавтов и космонавтов в пилотируемых миссиях двух стран.

24 апреля
9 минут
Мария Азарова

Американские ученые показали обратную связь всех конечных точек смертности с содержанием омега-3-полиненасыщенных жирных кислот. Согласно их выводам, более высокие уровни некоторых основных ПНЖК в тканях и крови могут снижать вероятность смерти от всех причин в среднем на 13% и в итоге замедлять процесс старения.

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: