Искусственный интеллект поможет делать фактчекинг

❋ 4.4

В Центре ИИ НИУ ВШЭ разработали ассистента по проверке фактов. Программа позволит повысить качество работы с информацией, уменьшить риски ошибок и предубеждений, а также экономить время и ресурсы. Важное преимущество программы — ее способность работать с различными типами утверждений.

НИУ ВШЭ

# информация

# искусственный интеллект

# нейросеть

# проверка фактов

# фактчекинг

Искусственный интеллект поможет делать фактчекинг / © Getty images

Сегодня для проверки утверждений часто используют нейронные сети, хотя изначально они и не предназначены для решения этой задачи и могут «галлюцинировать», то есть генерировать тексты, не соответствующие действительности. Нейронные сети обучаются на больших объемах данных, и, например, если эти данные содержат ошибки или неточности, то и результаты работы сети могут быть ошибочными. Ассистент, разработанный в НИУ ВШЭ, направлен на решение этой проблемы.

Программа состоит из нескольких основных компонентов, среди которых поиск подходящих текстовых фрагментов для утверждения пользователя, сравнение этих фрагментов с утверждением и, наконец, принятие окончательного решения о верности утверждения. Результатом работы программы является итоговое решение, вероятность этого решения и подтверждающие или опровергающие текстовые фрагменты.

Дмитрий Ильвовский, руководитель проекта «Искусственный интеллект в информационных процессах» Центра ИИ НИУ ВШЭ: «Важным преимуществом программы является ее способность работать с различными типами утверждений. Благодаря использованию машинного обучения и современных алгоритмов нам удалось добиться обработки и анализа информации с достаточно высокой точностью и надежностью. Однако пользоваться ассистентом надо с известной степенью осторожности, поскольку он пока не заменяет профессионального фактчекинга, а область его применения ограничена».

Настраиваемый алгоритм программы, разработанной в НИУ ВШЭ, состоит из нескольких достаточно надежных компонентов, которые можно развивать и улучшать. В частности, ученые обучили программу автоматически проверять факты на основе данных «Википедии» на русском, английском и болгарском языках. Технически программа работает для любых утверждений, сформулированных в виде текста длиннее пяти слов. Если факта нет в «Википедии», программа, скорее всего, скажет, что для проверки «не хватает информации». Это один из штатных ответов системы.

Разработчики НИУ ВШЭ адаптируют программу по запросу и обучают ее на данных необходимых источников. Виртуальный помощник обладает понятным пользовательским интерфейсом и может использоваться исследователями, фактчекерами или разработчиками фреймворка как встроенный инструмент верификации или как плагин в браузере. Все подробности о программе можно узнать в Центре ИИ НИУ ВШЭ.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.

Национальный исследовательский университет «Высшая школа экономики» — один из крупнейших и самых востребованных вузов России. В университете учится 54 тысячи студентов и работает почти 4,5 тысячи учёных и преподавателей. НИУ ВШЭ ведёт фундаментальные и прикладные исследования в области социально-экономических, гуманитарных, юридических, инженерных, компьютерных, физико-математических наук, а также креативных индустрий. В университете действуют 47 центров превосходства, или международных лабораторий. Вышка объединяет ведущих мировых исследователей в области изучения мозга, нейротехнологий, биоинформатики и искусственного интеллекта. Университет входит в первую группу программы «Приоритет-2030» в направлении «Исследовательское лидерство». Кампусы НИУ ВШЭ расположены в четырех городах — Москве, Санкт-Петербурге, Нижнем Новгороде и Перми, а также в цифровом пространстве — «Вышка Онлайн».