Предложен новый метод поиска нужной информации в 50 раз быстрее — Naked Science
8 минут
ФизТех

Предложен новый метод поиска нужной информации в 50 раз быстрее

Ученые предложили новый метод обработки запроса в коллекциях документов и в Интернете.

Предложен новый метод поиска нужной информации в 50 раз быстрее
Предложен новый метод поиска нужной информации в 50 раз быстрее

Разработчиками МФТИ и ВЦ РАН Андреем Кулунчаковым и Вадимом Стрижовым предложен новый метод автоматического построения ранжирующих моделей. Эти модели используются для того, чтобы обработать запрос от пользователя на поиск информации в коллекциях документов или в Интернете. Предлагаемый метод значительно повышает скорость построения моделей. Результаты исследования опубликованы в журнале Expert Systems with Applications, который стоит на первой позиции в рейтинге журналов по искусственному интеллекту по версии Google Scholar.

При поиске среди миллионов документов в Сети пользователь ожидает в результате получить небольшой полезный список. Документы списка должны быть проранжированы согласно поисковому запросу. Остальные документы для пользователя являются информационным мусором. Цель поисковой системы — найти нужный документ по запросу небольшой длины. Предложенный метод строит ранжирующие модели, позволяющие быстро достигнуть этой цели. Подобные модели являются ядром современных поисковых систем.

Андрей Кулунчаков, соавтор работы, студент кафедры интеллектуальных систем МФТИ, комментирует: «Постановка задачи предполагала использование только коллекций документов и поисковых запросов. Не допускалось использование никакой внешней информации о контексте, в котором выполнялся поиск. Такая задача имеет наиболее общий характер. Ранжирующие модели, предназначенные для быстрого и точного поиска информации, используются во многих областях от спам-фильтров до колл-центров».

Ранжирующая модель строится на основе простейших математических функций. Подобная модель предполагает создание из них сложной функции, которая бы решала поставленную задачу. Работа ученых была направлена на оптимизацию способа построения такой модели. Качество построенной модели смотрели в том числе с помощью живой экспертной оценки адекватности получаемого списка документов.

Одним из способов построения моделей является генетическое программирование. Свое название оно получило из-за схожести с механизмом естественного отбора в природе. В ходе решения задачи строится множество промежуточных решений — «поколений» моделей, в большей или меньшей степени похожих на искомую модель высокого качества, максимально соответствующую запросу. Алгоритм отсеивает модели низкого качества путем «естественного отбора» и на основе оставшихся создает более подходящие. Лучшие «особи» имеют большую вероятность быть включенными в следующие поколения. Сменяя множество поколений, алгоритм приближается к оптимальному решению.

К сожалению, так происходит лишь в теории. На практике число моделей увеличивается чрезвычайно быстро с ростом сложности. Для перебора моделей, состоящих всего из восьми функций, требуется не менее суток вычислений. При этом следует перебрать все варианты, из которых в будущем может эволюционировать наилучшее решение. В предшествующих работах это достигалось медленным и не оптимальным полным перебором.

Андрей Кулунчаков и Вадим Стрижов в рамках своего исследования создали новый подход к порождению ранжирующих моделей для поиска документов в больших коллекциях, не имеющих этих недостатков. Также исследователи решили проблему «стагнации». Когда в сменяющих друг друга «поколениях» модели структурно похожи и их «скрещивание» не дает существенно новых результатов, происходит «стагнация», или «застой». В таком случае вероятность появления качественной модели существенно снижается. Для того чтобы избежать стагнации, в поколение добавляются новые модели с целью повышения разнообразия.

Чтобы показать, что созданный метод получает модели, превосходящие по качеству современные альтернативы, авторы поставили численный эксперимент. Были использованы базы данных Национального института стандартов и технологий США, предназначенные для анализа и сравнения подобных систем. Они состояли из двух миллионов документов и двухсот тысяч запросов. Эксперимент показал, что полученные модели имеют более высокое качество ранжирования, согласно принятому критерию МАР — Mean Average Precision (популярная мера эффективности поиска информации). Сам же метод позволяет получить модель высокого качества за существенно меньшее время.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
ФизТех
202 статей
Московский физико-технический институт (национальный исследовательский университет), известен также как Физтех — ведущий российский вуз по подготовке специалистов в области теоретической, экспериментальной и прикладной физики, математики, информатики, химии, биологии и смежных дисциплин. Расположен в городе Долгопрудном Московской области, отдельные корпуса и факультеты находятся в Жуковском и в Москве.
Вчера, 20:38
32 минуты
Илья Ведмеденко

Недавние события в Нагорном Карабахе показали, что победить в современной войне, не имея ударных беспилотников, сложно. Россия пока отстает от стран Запада, Китая, Израиля и даже Турции, но делает все возможное, чтобы сократить этот разрыв.

Вчера, 18:08
6 минут
Ольга Иванова

Американские специалисты проанализировали данные 174 исследований и пришли к выводу, что счастливые романтические пары имеют ряд схожих психологических черт.

10 часов назад
5 минут
Василий Парфенов

Исследование частичек пыли из ядра кометы 67P/Чурюмова — Герасименко показало наличие в них фосфора в твердой форме. Это означает, что все необходимые для возникновения жизни химические элементы могут быть принесены на Землю кометами.

24 ноября
7 минут
Мария Азарова

Попадание патогена в эпителий слизистой дыхательных путей и захват вирусом бокаловидных клеток приводит к нарушению слизистого барьера. Из-за уменьшения количества муцина снижается не только обонятельная чувствительность, но и возникают неприятные ощущения в носу и рту, в том числе сухость.

22 ноября
24 минуты
Александр Березин

Планеты вокруг нашего Солнца расположены совсем не так, как в других системах. И это имеет крайне необычные практические последствия: расчеты показывают, что вокруг нашей звезды должны вращаться две потенциально обитаемые планеты, а не одна, как сейчас. Одна из них куда-то бесследно исчезла – и это еще в лучшем случае. Рассказываем, почему так получилось и кто конкретно в этом виноват.

24 ноября
7 минут
Василий Парфенов

Фанаты эпической киноленты «Космическая одиссея 2001 года» могут ликовать: на Земле нашли объект, похожий на показанные в фильме монолиты. Необычный металлический артефакт обнаружили сотрудники Департамента общественной безопасности штата Юта во время рутинного облета территорий.

14 ноября
35 минут
Василий Парфенов

На вопрос, кто проживает на дне океана, люди отвечают по-разному. Дети и некоторые взрослые скажут: Губка Боб Квадратные Штаны. Фанаты Лавкрафта благоговейно, но с огоньком в глазах пробормочут нечто вроде «Ктулху фхтагн». А подводники и океанологи задумчиво посмотрят на вопрошающего и, если повезет, расскажут много интересного. Про квакеров, «биоуток», «блуп» и еще Посейдон его знает какие аномальные явления подводного мира.

24 ноября
7 минут
Мария Азарова

Попадание патогена в эпителий слизистой дыхательных путей и захват вирусом бокаловидных клеток приводит к нарушению слизистого барьера. Из-за уменьшения количества муцина снижается не только обонятельная чувствительность, но и возникают неприятные ощущения в носу и рту, в том числе сухость.

22 ноября
24 минуты
Александр Березин

Планеты вокруг нашего Солнца расположены совсем не так, как в других системах. И это имеет крайне необычные практические последствия: расчеты показывают, что вокруг нашей звезды должны вращаться две потенциально обитаемые планеты, а не одна, как сейчас. Одна из них куда-то бесследно исчезла – и это еще в лучшем случае. Рассказываем, почему так получилось и кто конкретно в этом виноват.

[miniorange_social_login]

Комментарии

Написать комментарий
Подтвердить?
Лучшие материалы
Предстоящие мероприятия
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: