Предложен новый метод поиска нужной информации в 50 раз быстрее
8 минут
ФизТех

Предложен новый метод поиска нужной информации в 50 раз быстрее

Ученые предложили новый метод обработки запроса в коллекциях документов и в Интернете.

Предложен новый метод поиска нужной информации в 50 раз быстрее

Разработчиками МФТИ и ВЦ РАН Андреем Кулунчаковым и Вадимом Стрижовым предложен новый метод автоматического построения ранжирующих моделей. Эти модели используются для того, чтобы обработать запрос от пользователя на поиск информации в коллекциях документов или в Интернете. Предлагаемый метод значительно повышает скорость построения моделей. Результаты исследования опубликованы в журнале Expert Systems with Applications, который стоит на первой позиции в рейтинге журналов по искусственному интеллекту по версии Google Scholar.

При поиске среди миллионов документов в Сети пользователь ожидает в результате получить небольшой полезный список. Документы списка должны быть проранжированы согласно поисковому запросу. Остальные документы для пользователя являются информационным мусором. Цель поисковой системы — найти нужный документ по запросу небольшой длины. Предложенный метод строит ранжирующие модели, позволяющие быстро достигнуть этой цели. Подобные модели являются ядром современных поисковых систем.

Андрей Кулунчаков, соавтор работы, студент кафедры интеллектуальных систем МФТИ, комментирует: «Постановка задачи предполагала использование только коллекций документов и поисковых запросов. Не допускалось использование никакой внешней информации о контексте, в котором выполнялся поиск. Такая задача имеет наиболее общий характер. Ранжирующие модели, предназначенные для быстрого и точного поиска информации, используются во многих областях от спам-фильтров до колл-центров».

Ранжирующая модель строится на основе простейших математических функций. Подобная модель предполагает создание из них сложной функции, которая бы решала поставленную задачу. Работа ученых была направлена на оптимизацию способа построения такой модели. Качество построенной модели смотрели в том числе с помощью живой экспертной оценки адекватности получаемого списка документов.

Одним из способов построения моделей является генетическое программирование. Свое название оно получило из-за схожести с механизмом естественного отбора в природе. В ходе решения задачи строится множество промежуточных решений — «поколений» моделей, в большей или меньшей степени похожих на искомую модель высокого качества, максимально соответствующую запросу. Алгоритм отсеивает модели низкого качества путем «естественного отбора» и на основе оставшихся создает более подходящие. Лучшие «особи» имеют большую вероятность быть включенными в следующие поколения. Сменяя множество поколений, алгоритм приближается к оптимальному решению.

К сожалению, так происходит лишь в теории. На практике число моделей увеличивается чрезвычайно быстро с ростом сложности. Для перебора моделей, состоящих всего из восьми функций, требуется не менее суток вычислений. При этом следует перебрать все варианты, из которых в будущем может эволюционировать наилучшее решение. В предшествующих работах это достигалось медленным и не оптимальным полным перебором.

Андрей Кулунчаков и Вадим Стрижов в рамках своего исследования создали новый подход к порождению ранжирующих моделей для поиска документов в больших коллекциях, не имеющих этих недостатков. Также исследователи решили проблему «стагнации». Когда в сменяющих друг друга «поколениях» модели структурно похожи и их «скрещивание» не дает существенно новых результатов, происходит «стагнация», или «застой». В таком случае вероятность появления качественной модели существенно снижается. Для того чтобы избежать стагнации, в поколение добавляются новые модели с целью повышения разнообразия.

Чтобы показать, что созданный метод получает модели, превосходящие по качеству современные альтернативы, авторы поставили численный эксперимент. Были использованы базы данных Национального института стандартов и технологий США, предназначенные для анализа и сравнения подобных систем. Они состояли из двух миллионов документов и двухсот тысяч запросов. Эксперимент показал, что полученные модели имеют более высокое качество ранжирования, согласно принятому критерию МАР — Mean Average Precision (популярная мера эффективности поиска информации). Сам же метод позволяет получить модель высокого качества за существенно меньшее время.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
ФизТех
153 статей
Московский физико-технический институт (национальный исследовательский университет), известен также как Физтех — ведущий российский вуз по подготовке специалистов в области теоретической, экспериментальной и прикладной физики, математики, информатики, химии, биологии и смежных дисциплин. Расположен в городе Долгопрудном Московской области, отдельные корпуса и факультеты находятся в Жуковском и в Москве.
25 марта
4 минуты
Мария Азарова

Опубликованное изданием Baza видео демонстрирует последствия вирусной пневмонии для легких. Она наблюдается у больных Covid-19, находящихся в состоянии средней тяжести.

25 марта
3 минуты
Мария Азарова

Ученые предполагают, что небесное тело, прибывшее к нам из другой планетной системы, стало распадаться после приближения к Солнцу. Вероятно, скоро можно будет констатировать смерть 2I\Borisov.

Позавчера, 16:00
5 минут
Полина Гершберг

Меры, принятые более тридцати лет назад, оказывают положительное влияние на земную атмосферу.

22 марта
7 минут
Александр Березин

Одна из крупнейших проблем современной физики — загадка скорости расширения Вселенной. По одному методу измерения она выходит одной, по другому — совсем иной. С физической точки зрения так быть не может. Новая работа утверждает, что на самом деле проблема вполне решаема. Достаточно предположить, что наша часть Вселенной по какой-то неизвестной причине крайне обеднена материей.

24 марта
17 минут
Александр Березин

Очередная волна теорий заговора о рукотворности пандемии Covid-19 обвиняет во всем уханьскую вирусологическую лабораторию, исследователи из которой в самом деле сконструировали в 2015 году вирус, близкий к нынешнему. И все же он был совсем иным — это не SARS-CoV-2. Согласно новой работе, их гены не совпадают на десятки процентов, разрыв много больше, чем у людей и шимпанзе. Есть и другие факторы, практически исключающие возможность искусственного происхождения любого вируса, подобного тому, что развязал текущую эпидемию.

22 марта
7 минут
Денис Гордеев

Гидроксихлорохин, использующийся при лечении малярии, показал высокую эффективность против вируса SARS-CoV-2, особенно в сочетании с антибиотиком азитромицином. Правда, делать выводы о появлении потенциального препарата против этого патогена еще очень рано. Неясны также и причины по которым лекарства, созданные совсем от других болезней, могут оказаться эффективными против нового вируса.

10 марта
5 минут
Сергей Васильев

Новый анализ образцов лунного грунта показал, что под поверхностью спутника могут скрываться остатки древней планеты Тейя, столкновение которой с Землей и привело к появлению спутника.

10 марта
2 минуты
Илья Ведмеденко

Принадлежащие норвежским ВВС американские истребители пятого поколения использовали для перехвата российских боевых самолетов — Ту-142 и МиГ-31.

13 марта
37 минут
Александр Березин

С начала марта 2020 года по социальным сетям распространяется одна и та же мысль: в России полным-полно больных Covid-19, просто власти занижают медицинскую статистику «на много порядков». Больные гриппом и ОРВИ, считают сторонники этой точки зрения, на самом деле, страдают от коронавируса. Смерти от него тоже «оформят» под грипп и обычную пневмонию. Более того, сходными фальсификациями пытаются объяснить и почти полную победу над эпидемией в Китае. Версия, согласимся, красочная, будоражит воображение. Проверим, совместима ли она с реальностью.

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Лучшие материалы
Предстоящие мероприятия
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: