Создан универсальный способ обмана детекторов дипфейк-видео, делающий их бессмысленными
В киберпространстве несколько лет продолжается новая борьба «щита» и «меча» — совершенствование алгоритмов, создающих дипфейк-видео и определяющих подделку. Судя по всему, в этой войне наметился перелом, и он не в пользу «сил света». Исследователи экспериментально подтвердили возможность обмануть любое существующее решение для выявления поддельных роликов.
Как пишет портал SciTechDaily со ссылкой на работу американских специалистов по компьютерной инженерии, новая нейросеть довольно простым образом «обманывает» любые детекторы дипфейков. Этот алгоритм был представлен на Зимней конференции по применению компьютерного зрения, которая прошла в январе этого года (WACV 2021). Исследователи настаивают, что их решение демонстрирует неэффективность даже самых совершенных существующих средств определения подлинности видео.
Метод обмана заключается во встраивании специальных «конкурирующих» примеров (можно перевести и как «противостоящих» — adversarial examples) в каждый кадр ролика. Эффект получается поистине обескураживающим: даже наспех состряпанный дипфейк определяется детектором как реальная запись. Хотя неестественность поведения человека на видео очевидна невооруженным глазом. Пример такого обмана исследователи продемонстрировали на практике.
Что важно, «обманка» работает при перекодировании видео и на множестве самых совершенных детекторов. Фактически специалисты делают вывод, что из-за особенностей выявляющих подделку алгоритмов их все реально легко обвести вокруг пальца.
Подобные разработки могут стать гораздо совершеннее, что снова ставит под вопрос само понятие доверия к видеоряду. А точнее, вызывает опасения, что манипуляции общественным мнением могут оказаться гораздо проще для злоумышленников, чем того хотели бы правоохранительные органы и сами люди. И если поначалу волна дипфейков воспринималась лишь как развлечение, то несколько позднее стала очевидна опасность технологии.
Люди привыкли доверять тому, что видят глазами, а добротно сделанный дипфейк может быть неотличим от реального видео. Порой достаточно даже не заменять лицо человеку, а синхронизировать движения губ с поддельной речью. Масштабы возможного применения таких манипуляций поистине безграничны. И детекторы подобных подделок разрабатывают сотни коллективов по всему миру.
Свежий пример: как сообщает РБК, Министерство внутренних дел России объявило тендер на создание алгоритма для выявления «внутрикадрового монтажа». Сумма контракта составляет почти 4,8 миллиона рублей, но эти средства, скорее всего, будут потрачены впустую. Американские исследователи показали, что создание «необнаружимых» дипфейков было лишь вопросом времени. Разработчикам защитных инструментов придется искать совершенно новые способы определять подделки — и этот процесс может занять очень много времени.
Telegram 
Дзен 
VK Исследователи опросили более 60 тысяч испытуемых из разных стран и выяснили: чем больше человек зациклен на себе, тем холоднее он к своему партнеру. Правда, снижение накала страстей не всегда плохо, у этого есть и положительные стороны.
Во время раскопок в римском лагере в Йорке (Англия) нашли стеклянную колбу, поразительно напоминающую древнеегипетские флаконы для кохля — традиционную черную подводку для глаз. Не исключено, что это средство макияжа пользовалось популярностью и у римских солдат.
В популярной литературе сверхмассивные черные дыры чаще всего представляют как разрушители звезд и планет. Авторы новой работы попробовали рассчитать, что на самом деле происходит в окрестностях таких объектов и пришли к противоположному выводу.
Вначале Reuters опубликовал статью о взаимоотношениях SpaceX и Пентагона, которую миллиардер --- традиционно для его отношений с этим изданием — назвал фейком. Опровергая ее тезисы, он обнародовал информацию, не представленную ранее публично.
Исследователи опросили более 60 тысяч испытуемых из разных стран и выяснили: чем больше человек зациклен на себе, тем холоднее он к своему партнеру. Правда, снижение накала страстей не всегда плохо, у этого есть и положительные стороны.
Провинция Цзянсу была процветающим центром медицинской практики в Китае во времена династии Мин (1368-1644 годы нашей эры). Микроскопический анализ крошечных частиц на поверхности хирургических ножниц и пинцета из гробницы китайского врача помог выявить следы вещества, получаемого из ядовитого растения, которое, по мнению исследователей, применялось как местная анестезия во время операций.
В доколумбовых Андах принадлежность к правящему роду определяла доступ к земле, торговле и статусу, поэтому удержать все внутри семьи было вопросом выживания. Ученые выяснили, что элиты долины Чинча решали эту задачу самым прямым способом — заключая браки между родственниками на протяжении как минимум двух поколений.
При совпадении нескольких условий наши глаза способны улавливать излучение в ближнем инфракрасном спектре. Тогда сетчатка начинает работать как нелинейный фотодетектор.
Вначале Reuters опубликовал статью о взаимоотношениях SpaceX и Пентагона, которую миллиардер --- традиционно для его отношений с этим изданием — назвал фейком. Опровергая ее тезисы, он обнародовал информацию, не представленную ранее публично.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Последние комментарии