Экстремистов научились определять через соцсети еще до публикации постов

Исследование провели ученые из Массачусетского технологического института (MIT) и Университета Брандейса совместно с подполковником армии США Кристофером Марксом (Christopher E. Marks). Работу опубликовали в журнале Operations Research.

Экстремисты, связанные с «Исламским государством» (организация запрещена на территории России) и другими аналогичными группировками, в основном используют социальные сети для того, чтобы запугивать пользователей, вербовать новых членов и пропагандировать свои идеи. Соцсети постоянно принимают меры по выявлению таких аккаунтов. Например, в 2016 году Twitter отчитался о блокировке 360 тысяч аккаунтов экстремистов. Для принятия решений о блокировке модераторы чаще всего опираются на жалобы пользователей. Впрочем, блокировка не панацея, ведь террорист может создать новый профиль и продолжит вести противоправную деятельность.

В поисках нового метода идентификации экстремистов в соцсетях ученые собрали данные 5000 аккаунтов в Twitter, которые вели члены известной группировки ИГИЛ (организация запрещена на территории России) или их последователи. Их имена выяснили при помощи СМИ, отчетов правоохранительных органов и аналитических центров. Исследователи также проанализировали 4,8 миллиона твитов, связанных с этими аккаунтами: часть принадлежала самим пользователями, а часть просто упоминала их или содержала соответствующие хэштеги.

Используя статистическое моделирование экстремистского поведения, результаты анализа твитов и данные об экстремистах, ученые составили модель, которая может идентифицировать учетные записи как экстремистские и определять, сколько аккаунтов принадлежит одному человеку. Так, исследователи определили, что среди массива новых профилей, взятых для работы, 70 процентов принадлежат экстремистам. Погрешность составила всего два процента. Достоверность результатов ученые проверили, сопоставив всю информацию, известную о террористах, с данными в идентифицированных аккаунтах.

Особенность модели заключается в том, что она не опирается на контент, который генерируют аккаунты. Следовательно, способна выявить учетную запись экстремиста еще до того, как он что-либо опубликует.

«Пользователи, участвующие в какой-либо форме онлайн-экстремизма, будут иметь очень похожие поведенческие характеристики в социальных сетях, — объяснила одна из авторов исследования Джитт Клаузен (Jytte Klausen). — Они будут контактировать с определенным набором пользователей, объединенных в экстремистскую группировку, будут создавать новые аккаунты после блокировки старых и по возвращении в соцсеть восстановят связи с теми же лицами».

Это не единственное исследование, в котором ученые использовали учетные записи пользователей в соцсетях, чтобы определить поведенческие особенности или психологические характеристики людей. Около трех лет назад лингвисты установили зависимость между тем, как пользователь ведет свой аккаунт в Twitter, и уровнем его доходов.