Поисковик «Яндекс» научился находить смысл — Naked Science
02.11.2016
Редакция Naked Science

Поисковик «Яндекс» научился находить смысл

«Яндекс» объявил о запуске нового поискового алгоритма «Палех», который позволяет повысить релевантность поисковой выдачи по низкочастотным запросам. Об этом сообщается в блоге компании.

148597_02
©Wikipedia

Работа современных поисковых систем основана на анализе ключевых слов. Получив информацию о содержании интернет-страницы, индексатор разбивает его на элементы — текст, заголовки, метатеги и другие — и сохраняет их в индексной базе. В ответ на запрос пользователя система проверяет базу на наличие подходящих сайтов и осуществляет их выдачу в определенном порядке. При этом порядок выдачи зависит от степени соответствия запросу, которая определяется по длине и сочетанию ключевых фраз, и частоте таких запросов от других пользователей. Поисковая выдача по длинным и нестандартным запросам часто имеет низкую релевантность.

 

Для повышения такой релевантности компания использовала поисковую модель на искусственных нейросетях. Алгоритм одновременно сопоставляет запрос и индексную базу по формальному (ключевые слова) и семантическому признакам. Это позволяет выявить соответствия, даже если в запросе и базе нет общих ключевых слов или запрос и база соответствуют только формально. Пополнение таких ассоциаций происходит за счет машинного обучения, а его результатом является трехсотмерный семантический вектор.

 

Пример построения семантического вектора «Палех» в двухмерном пространстве. / © «Яндекс», 2016

 

По данным компании, пока алгоритм строит семантические векторы только по заголовкам страниц. Потенциально он может сопоставлять запрос с полным текстовым содержанием страницы, а также составлять профиль интернет-пользователя исходя из его действий.

 

Подробностями проекта с Naked Science поделился представитель «Яндекса» Алексей Гусаков:

 

«Самая интересная часть всей нашей истории про нейросети в поиске — это семантический вектор. Так мы назвали новый способ обработки запроса и его сопоставление с вероятными ответами. Дело в том, что компьютеру проще работать с числами, чем с буквами, поэтому поиск соответствий между запросами и веб-страницами сводится к сравнению чисел. С помощью нейронной сети мы перевели заголовки веб-страниц в числа, а точнее — в группы из трехсот чисел каждая. В результате документы из базы данных “Яндекса” получили координаты в трехсотмерном пространстве. Представляя запрос и веб-страницу в виде вектора в трехсотмерном пространстве, мы можем понять, что они хорошо соответствуют друг другу, даже если у них нет ни одного общего слова. Семантический вектор мы используем не только в поиске “Яндекса”, но и в “Картинках”, а в будущем мы планируем переводить в такие векторы не только заголовки, но и полные тексты документов — это еще сильнее улучшит нашу выдачу».

 

Новый поисковый алгоритм назван в честь российского поселка Палех, известного палехскими миниатюрами. Для этого народного промысла характерно нанесение рисунка (иконы или сюжета из сказки) темперой на папье-маше, а одним из самых популярных персонажей миниатюр является Жар-птица. «Яндекс» использует изображение Жар-птицы как иллюстрацию распределения частотности запросов: высокочастотные (небольшое количество, но часто встречаются) соответствуют короткому клюву, среднечастотные — крупному туловищу, низкочастотные и редкие — длинному и витиеватому хвосту.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Сегодня, 11:44
Илья Ведмеденко

Видео демонстрирует концепцию, известную как Rapid Dragon. Крылатые ракеты сбросили из самолетов C-17 и EC-130: предполагается, что это позволит повысить ударную мощь США.

Позавчера, 19:40
Василий Парфенов

Следует признать: амбициозные планы Илона Маска по освоению Марса столкнулись с суровой реальностью американской бюрократии раньше, чем предполагалось. Не успела его компания SpaceX начать тестирование системы из ускорителя Super Heavy и космического корабля Starship, как регуляторные органы высказали свое «фи». Первый орбитальный запуск исполинской ракеты никак не получит соответствующих разрешений, но наконец-то появилась надежда на положительный исход экологической оценки. Правда, космодром в Бока-Чика должен принять кое-какие расширенные меры по защите окружающей среды.

Позавчера, 13:03
Алиса Гаджиева

Иранские ученые расшифровали тексты с глиняных табличек времен правления Дария I.

Сегодня, 11:44
Илья Ведмеденко

Видео демонстрирует концепцию, известную как Rapid Dragon. Крылатые ракеты сбросили из самолетов C-17 и EC-130: предполагается, что это позволит повысить ударную мощь США.

Позавчера, 19:40
Василий Парфенов

Следует признать: амбициозные планы Илона Маска по освоению Марса столкнулись с суровой реальностью американской бюрократии раньше, чем предполагалось. Не успела его компания SpaceX начать тестирование системы из ускорителя Super Heavy и космического корабля Starship, как регуляторные органы высказали свое «фи». Первый орбитальный запуск исполинской ракеты никак не получит соответствующих разрешений, но наконец-то появилась надежда на положительный исход экологической оценки. Правда, космодром в Бока-Чика должен принять кое-какие расширенные меры по защите окружающей среды.

19 сентября
Александр Березин

Сегодня на Землю вернулся экипаж Inspiration 4. Пресса уже единодушно пишет об этом так: большой и яркий успех амбициозной космической компании. Без единого профессионала-астронавта — и взлетели выше МКС! Все это правда. Но правда и другое: сам Илон Маск и все, кто хорошо представляют себе пилотируемые космические полеты, находились в напряжении на протяжении троих суток, пока четверо смелых из Inspiration 4 были в космосе. И можно с уверенностью сказать, что впереди у SpaceX, кажется, еще более рискованные полеты. Попробуем разобраться почему.

3 сентября
Алиса Гаджиева

Два бронзовых тарана и свинцовые пули обнаружили на месте битвы при Эгатских островах, состоявшейся почти 23 века назад.

11 сентября
Алиса Гаджиева

Необычное погребение обнаружили во время работ по устройству пруда в гольф-клубе.

15 сентября
Ольга Иванова

Американские исследователи выяснили, что в женских тампонах содержатся летучие органические соединения, которые влияют на присутствие этих веществ в моче. Интересно, что в прокладках их содержание значительно ниже.

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: