• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
20.02.2024, 11:00
НИУ ВШЭ
1,5 тыс

Искусственный интеллект поможет делать фактчекинг

❋ 4.4

В Центре ИИ НИУ ВШЭ разработали ассистента по проверке фактов. Программа позволит повысить качество работы с информацией, уменьшить риски ошибок и предубеждений, а также экономить время и ресурсы. Важное преимущество программы — ее способность работать с различными типами утверждений.

Искусственный интеллект поможет делать фактчекинг
Искусственный интеллект поможет делать фактчекинг / © Getty images

Сегодня для проверки утверждений часто используют нейронные сети, хотя изначально они и не предназначены для решения этой задачи и могут «галлюцинировать», то есть генерировать тексты, не соответствующие действительности. Нейронные сети обучаются на больших объемах данных, и, например, если эти данные содержат ошибки или неточности, то и результаты работы сети могут быть ошибочными. Ассистент, разработанный в НИУ ВШЭ, направлен на решение этой проблемы.

Программа состоит из нескольких основных компонентов, среди которых поиск подходящих текстовых фрагментов для утверждения пользователя, сравнение этих фрагментов с утверждением и, наконец, принятие окончательного решения о верности утверждения. Результатом работы программы является итоговое решение, вероятность этого решения и подтверждающие или опровергающие текстовые фрагменты.

Дмитрий Ильвовский, руководитель проекта «Искусственный интеллект в информационных процессах» Центра ИИ НИУ ВШЭ: «Важным преимуществом программы является ее способность работать с различными типами утверждений. Благодаря использованию машинного обучения и современных алгоритмов нам удалось добиться обработки и анализа информации с достаточно высокой точностью и надежностью. Однако пользоваться ассистентом надо с известной степенью осторожности, поскольку он пока не заменяет профессионального фактчекинга, а область его применения ограничена».

Настраиваемый алгоритм программы, разработанной в НИУ ВШЭ, состоит из нескольких достаточно надежных компонентов, которые можно развивать и улучшать. В частности, ученые обучили программу автоматически проверять факты на основе данных «Википедии» на русском, английском и болгарском языках. Технически программа работает для любых утверждений, сформулированных в виде текста длиннее пяти слов. Если факта нет в «Википедии», программа, скорее всего, скажет, что для проверки «не хватает информации». Это один из штатных ответов системы.

Разработчики НИУ ВШЭ адаптируют программу по запросу и обучают ее на данных необходимых источников. Виртуальный помощник обладает понятным пользовательским интерфейсом и может использоваться исследователями, фактчекерами или разработчиками фреймворка как встроенный инструмент верификации или как плагин в браузере. Все подробности о программе можно узнать в Центре ИИ НИУ ВШЭ.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Национальный исследовательский университет «Высшая школа экономики» — один из крупнейших и самых востребованных вузов России. В университете учится 54 тысячи студентов и работает почти 4,5 тысячи учёных и преподавателей. НИУ ВШЭ ведёт фундаментальные и прикладные исследования в области социально-экономических, гуманитарных, юридических, инженерных, компьютерных, физико-математических наук, а также креативных индустрий. В университете действуют 47 центров превосходства, или международных лабораторий. Вышка объединяет ведущих мировых исследователей в области изучения мозга, нейротехнологий, биоинформатики и искусственного интеллекта. Университет входит в первую группу программы «Приоритет-2030» в направлении «Исследовательское лидерство». Кампусы НИУ ВШЭ расположены в четырех городах — Москве, Санкт-Петербурге, Нижнем Новгороде и Перми, а также в цифровом пространстве — «Вышка Онлайн».
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Предстоящие мероприятия
12 июня, 14:52
Максим Абдулаев

Эмбрионы зебровых амадин изменили архитектуру кровеносной системы своего гипоталамуса под действием предупреждающих криков родителей о высокой температуре. Один лишь звук без реального перегрева сделал сосуды развивающегося мозга более эластичными. Это должно защищать будущего птенца от теплового удара.

14 июня, 10:35
Игорь Байдов

Сам факт того, что после распада Западной Римской империи возникали новые государства, историкам известен давно. Нет сомнений в существовании королевств готов, франков, лангобардов и других постримских политических образований. Авторы нового исследования сосредоточились на более сложном вопросе. Они попытались выяснить, как именно происходило формирование таких обществ на уровне отдельных людей, семей и общин. Впервые благодаря сочетанию генетических и археологических данных исследователи смогли реконструировать развитие одного постримского политического общества, которое располагалось на территории Паннонии.

13 июня, 17:19
Evgenia Vavilova

Физикам долго не удавалось применить фазовый контраст в электронной микроскопии. Оказалось, что нужно было прекратить искать подходящее вещество для фазовой пластины и обратить внимание на лазеры.

14 июня, 10:35
Игорь Байдов

Сам факт того, что после распада Западной Римской империи возникали новые государства, историкам известен давно. Нет сомнений в существовании королевств готов, франков, лангобардов и других постримских политических образований. Авторы нового исследования сосредоточились на более сложном вопросе. Они попытались выяснить, как именно происходило формирование таких обществ на уровне отдельных людей, семей и общин. Впервые благодаря сочетанию генетических и археологических данных исследователи смогли реконструировать развитие одного постримского политического общества, которое располагалось на территории Паннонии.

13 июня, 17:19
Evgenia Vavilova

Физикам долго не удавалось применить фазовый контраст в электронной микроскопии. Оказалось, что нужно было прекратить искать подходящее вещество для фазовой пластины и обратить внимание на лазеры.

12 июня, 12:35
Evgenia Vavilova

Ученые с высокой точностью измерили ключевые параметры нейтринных осцилляций — угол смешивания θ₁₂ и разность квадратов масс нейтрино. Результаты верифицировали несколькими методами.

10 июня, 11:51
Александр Березин

Хотя длительность помех не превышала десяти секунд, это первый известный случай такого рода. Обычно спутникам не хватает мощности для создания радиосигналов той силы, что нужна для подобных помех.

17 мая, 10:35
Игорь Байдов

В высокогорных районах Гималаев появился новый хищник. Он не боится людей, возглавляет стаи собак и все чаще заходит в деревни. Местные жители называют его «кхипшанг». Речь идет о гибриде гималайского волка и бродячей собаки. Ученые опасаются, что этот зверь изменит хрупкий баланс местной дикой природы и в скором времени станет весьма опасным для человека.

25 мая, 14:00
Андрей Серегин

В доколумбовых Андах принадлежность к правящему роду определяла доступ к земле, торговле и статусу, поэтому удержать все внутри семьи было вопросом выживания. Ученые выяснили, что элиты долины Чинча решали эту задачу самым прямым способом — заключая браки между родственниками на протяжении как минимум двух поколений.

[miniorange_social_login]

Комментарии

Написать комментарий
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Комментарий на проверке

Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Ошибка авторизации
По закону на российских сайтах теперь нельзя авторизовываться с помощью иностранных сервисов. Используйте другой способ или восстановите доступ по почте.
Восстановить доступ
Войти по-другому
Вход через почту
Введите привязанную к соцсети почту, чтобы восстановить доступ или получить одноразовую ссылку для входа на сайт.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно