25.07.2018
Редакция Naked Science

Алгоритм предсказал, когда интернет-общение становится токсичным

Прогноз компьютера уступил семь процентов интуитивной оценке человека.

133
©Wikipedia

Исследователи из Корнеллского университета (США) создали алгоритм, который отделяет вежливую переписку от оскорбительной. Об этом сообщается на сайте университета. Создатели надеются, что их инструмент поможет модерировать чаты и форумы в интернете.

 

Для обучения алгоритма исследователи использовали базу данных Wikipedia — Talk pages. Эта платформа предназначена для редакторов статей, которые обмениваются мнениями о верификации информации. Специалисты отобрали 1 270 диалогов, начинающихся с вежливых фраз. Они обучили компьютер отделять уважительное отношение от оскорбительного. К примеру, обращения, вроде «спасибо за помощь» (thanks for your help) или «пожалуйста, найди источники к этой правке» (please find sources for your edit) расценивались как вежливые, а такие фразы, как «твои источники не имеют значения» (your sources don’t matter) причислялись к грубым. Исследователи также заметили, что диалоги, в которых с самого начала часто употреблялось местоимение «ты» (you), с большей вероятностью оканчивались язвительными высказываниями.

 

Один из участников работы Кристиан Данеску-Никулеску-Мизил (Cristian Danescu-Niculescu-Mizil) объяснил ее значение:

 

«Каждый день миллионы людей спорят друг с другом в интернете, и отслеживать их в реальном времени невозможно. Наша система поможет модераторам перенаправлять их внимание в нужную сторону. У людей есть интуитивное ощущение того, когда разговор идет наперекосяк, но мы не угадываем в ста процентах случаев. Нам интересно, сможем ли мы создать такую систему, которая преодолеет наше собственное интуитивное ощущение».

 

Авторы исследования провели эксперимент, чтобы узнать, кто лучше определяет токсичность: человек или машина. Точность респондентов равнялась 72 процентам. Результат алгоритма не превышал 65 процентов. В будущем они надеются увеличить это показатель.

 

В июне искусственный интеллект DeepMind научили воссоздавать трехмерную сцену по фотографии.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Позавчера, 09:23
Сергей Васильев

Биологи обнаружили, что обширные скопления пластика позволяют прибрежным животным осваивать открытое море, прежде для них недоступное, и распространяться по всем уголкам океана.

Позавчера, 12:49
Алиса Гаджиева

У погибшего почти 70 миллионов лет назад хищника была трудная жизнь: помимо обычного набора проблем, таких как схватки с сородичами, он страдал от зубной боли.

Вчера, 15:24
Мария Осетрова

Две международные исследовательские группы опубликовали в журнале Science новые методы детекции инфракрасного света: для этого обе группы предлагают сначала сместить спектр излучения в видимую область. Это позволит разработать недорогие способы обнаружения загрязнений, отслеживания раковых заболеваний, проверки газовых смесей и дистанционного зондирования внешней Вселенной.

Позавчера, 09:23
Сергей Васильев

Биологи обнаружили, что обширные скопления пластика позволяют прибрежным животным осваивать открытое море, прежде для них недоступное, и распространяться по всем уголкам океана.

2 декабря
Василий Парфенов

Пару недель назад Международная космическая станция разменяла 23-й год своего существования на орбите. И хотя далеко не все ее модули насчитывают и десяти лет эксплуатации, конструкция в целом давно вызывает опасения в надежности. В числе прочего американскую сторону особо волнуют недавние неполадки в российском сегменте. Их считают предвестником серьезного препятствия человеческой экспансии в космос — когда мы лишимся важнейшего форпоста на орбите Земли, а замены ему еще не появится.

1 декабря
Мария Азарова

Более низкие уровни интерлейкина-6 — маркера системного воспаления — выявили у людей, которые считали, что готовы предоставлять больше поддержки окружающим, чем получать взамен.

12 ноября
Мария Азарова

Кошки оказывались сбиты с толку, когда их человек, как им казалось, «телепортировался» в новое, неожиданное место. Однако они не реагировали таким же образом на чужих людей или других животных.

25 ноября
НИУ ВШЭ

Мобильные ученые публикуются в индексируемых журналах в два раза чаще. К такому выводу пришли исследователи из НИУ ВШЭ.

Позавчера, 09:23
Сергей Васильев

Биологи обнаружили, что обширные скопления пластика позволяют прибрежным животным осваивать открытое море, прежде для них недоступное, и распространяться по всем уголкам океана.

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: