• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
10.02.2021
Василий Парфенов
5 882

Создан универсальный способ обмана детекторов дипфейк-видео, делающий их бессмысленными

5.7

В киберпространстве несколько лет продолжается новая борьба «щита» и «меча» — совершенствование алгоритмов, создающих дипфейк-видео и определяющих подделку. Судя по всему, в этой войне наметился перелом, и он не в пользу «сил света». Исследователи экспериментально подтвердили возможность обмануть любое существующее решение для выявления поддельных роликов.

Создан универсальный способ обмана детекторов дипфейк-видео, делающий их бессмысленными
Николас Кейдж вместо Эми Адамс в фильме «Человек из стали» / ©DeepFake Videos, YouTube

Как пишет портал SciTechDaily со ссылкой на работу американских специалистов по компьютерной инженерии, новая нейросеть довольно простым образом «обманывает» любые детекторы дипфейков. Этот алгоритм был представлен на Зимней конференции по применению компьютерного зрения, которая прошла в январе этого года (WACV 2021). Исследователи настаивают, что их решение демонстрирует неэффективность даже самых совершенных существующих средств определения подлинности видео.

Метод обмана заключается во встраивании специальных «конкурирующих» примеров (можно перевести и как «противостоящих» — adversarial examples) в каждый кадр ролика. Эффект получается поистине обескураживающим: даже наспех состряпанный дипфейк определяется детектором как реальная запись. Хотя неестественность поведения человека на видео очевидна невооруженным глазом. Пример такого обмана исследователи продемонстрировали на практике.

©University of California San Diego, SciTechDaily, YouTube

Что важно, «обманка» работает при перекодировании видео и на множестве самых совершенных детекторов. Фактически специалисты делают вывод, что из-за особенностей выявляющих подделку алгоритмов их все реально легко обвести вокруг пальца.

Подобные разработки могут стать гораздо совершеннее, что снова ставит под вопрос само понятие доверия к видеоряду. А точнее, вызывает опасения, что манипуляции общественным мнением могут оказаться гораздо проще для злоумышленников, чем того хотели бы правоохранительные органы и сами люди. И если поначалу волна дипфейков воспринималась лишь как развлечение, то несколько позднее стала очевидна опасность технологии.

Люди привыкли доверять тому, что видят глазами, а добротно сделанный дипфейк может быть неотличим от реального видео. Порой достаточно даже не заменять лицо человеку, а синхронизировать движения губ с поддельной речью. Масштабы возможного применения таких манипуляций поистине безграничны. И детекторы подобных подделок разрабатывают сотни коллективов по всему миру.

Свежий пример: как сообщает РБК, Министерство внутренних дел России объявило тендер на создание алгоритма для выявления «внутрикадрового монтажа». Сумма контракта составляет почти 4,8 миллиона рублей, но эти средства, скорее всего, будут потрачены впустую. Американские исследователи показали, что создание «необнаружимых» дипфейков было лишь вопросом времени. Разработчикам защитных инструментов придется искать совершенно новые способы определять подделки — и этот процесс может занять очень много времени.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Вчера, 19:00
Дарья Губина

Чтобы издалека оценить обитаемость космического тела, нужно понимать, какие на нем есть молекулярные соединения и как они взаимодействуют. И вот по данным, собранным аппаратом «Юнона», ученые рассчитали движение простейших элементов на покрытой ледяной коркой Европе, спутнике Юпитера.

Позавчера, 15:15
Юлия Трепалина

Ученые давно заметили связь между уровнем образования и продолжительностью жизни людей. Новое исследование показало, что дополнительные годы учебы коррелируют не только со снижением риска смерти, но и с замедлением биологического старения.

Вчера, 14:35
Ольга Иванова

Международная группа исследователей проанализировала изменения, которые происходят в организме человека, если полностью исключить прием пищи в течение семи дней.

1 марта
Юлия Трепалина

Первого марта в России отмечают День кошек. Это одни из самых популярных домашних животных, которые живут рядом с человеком уже порядка десяти тысяч лет. Несмотря на многовековое знакомство, в общении людей и кошек хватает неясностей. Так, французские ученые недавно выяснили, что почти в трети случаев знаки кошачьего неудовольствия толковались ошибочно.

Вчера, 14:35
Ольга Иванова

Международная группа исследователей проанализировала изменения, которые происходят в организме человека, если полностью исключить прием пищи в течение семи дней.

Вчера, 19:00
Дарья Губина

Чтобы издалека оценить обитаемость космического тела, нужно понимать, какие на нем есть молекулярные соединения и как они взаимодействуют. И вот по данным, собранным аппаратом «Юнона», ученые рассчитали движение простейших элементов на покрытой ледяной коркой Европе, спутнике Юпитера.

20 февраля
Полина

В Российской академии наук завершили первый Большой словарь ударений, его издадут к концу года. Лингвисты собрали наиболее современные нормы произношения привычных слов и зафиксировали ударение для лексики, которая появилась в русском языке недавно.

15 февраля
Дарья Губина

Титан — самый органически богатый спутник с глобальным океаном в Солнечной системе. И все же, сопоставив строение его поверхности с интенсивностью падения метеоритов, ученые пришли к выводу, что в океане спутника Сатурна вряд ли хватает элементов для жизни.

22 февраля
РНФ

Ученые показали, что экстремальный подъем уровня Каспийского моря на десятки метров, произошедший 18-13 тысяч лет назад и получивший название «Великая Хвалынская трансгрессия», мог быть вызван, вопреки существующим гипотезам, не таянием ледника, а естественными изменениями палеоклимата. Оказалось, что из-за холодного климата того периода обширные территории, с которых собирали воду впадающие в Каспий реки, были покрыты многолетней мерзлотой. В результате массы дождевых и талых вод почти не впитывались в мерзлые грунты и стекали в море, испарение с поверхности которого было небольшим. Все эти факторы привели к повышению уровня Каспия и увеличению площади моря более чем вдвое по сравнению с современным. Полученные данные помогут уточнить представления о масштабе колебаний уровня Каспийского моря при изменении климата.

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Подтвердить?
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: