#языковые модели

Исследователи «Яндекса» разработали новый метод оценки качества машинного перевода. На основе этой метрики разработчики смогут целенаправленно совершенствовать существующие модели. Разработку уже оценило мировое академическое сообщество: компания представила статью о методе на международной конференции по машинному обучению EMNLP 2025.

Команда исследователей из SberAI, НИУ ВШЭ, Института искусственного интеллекта AIRI и МФТИ представила LIBRA — первый в своем роде масштабный бенчмарк для оценки способности больших языковых моделей (LLM) работать с длинными текстами на русском языке. Эта разработка решает критическую проблему в области развития искусственного интеллекта, предоставляя российскому научному сообществу универсальный и прозрачный инструмент для измерения и сравнения производительности нейросетей в одной из самых сложных и востребованных задач.

Исследователи из Института искусственного интеллекта Московского государственного университета и «Яндекса» создали LORuGEC — первый открытый набор данных с примерами ошибок по сложным правилам русского языка. Они также разработали метод, помогающий обучить ИИ исправлять грамматические, пунктуационные и орфографические ошибки при генерации текстов. «Яндекс» рассказал о разработках на полях Конгресса молодых ученых.

Команда исследователей из Т-Технологий и МФТИ разработала метод, позволяющий построить детальную «карту» эволюции абстрактных понятий в глубине больших языковых моделей. Этот подход, основанный на «графах потоков признаков», не только открывает «черный ящик» ИИ, делая его работу прозрачной, но и дает в руки ученых мощный инструмент для точного управления поведением нейросетей, например, для подавления нежелательных тем в генерируемом тексте.

Команда исследователей из Т-Технологий, Московского физико-технического института (МФТИ) и Национального исследовательского университета «Высшая школа экономики» (НИУ ВШЭ) разработала новаторский метод, позволяющий проследить «жизненный цикл» отдельных концепций внутри сложных нейронных сетей. Подход получил название SAE Match. Он работает как своего рода магнитно-резонансная томография для искусственного интеллекта, создавая детальную карту того, как абстрактные признаки — «пушистый», «историческое событие» или «радость» — зарождаются, трансформируются и передаются между слоями нейросети. Это фундаментальный прорыв в области интерпретируемости искусственного интеллекта, открывающий путь к созданию более прозрачных, надежных и управляемых систем.

Команда исследователей из Т-Технологий и МФТИ предложила новый подход к «воспитанию» больших языковых моделей, позволяющий им становиться умнее и безопаснее, не страдая от «сверхоптимизации» — парадоксального эффекта, когда слишком усердное обучение приводит к деградации качества. Разработанное семейство алгоритмов, получившее название Trust Region (TR), динамически обновляет «точку отсчета» для модели, позволяя ей постоянно развиваться и выходить за рамки первоначальных знаний, сохраняя при этом стабильность и адекватность.

В ЮФУ придумали новый остроумный способ тестировать ИИ на способность работать в реальных ситуациях использования русского языка. Исследователи искусственного интеллекта из МИИ ИМ ЮФУ предлагают использовать интеллектуальные языковые игры, как пример — заставлять ИИ отвечать на вопросы из архива телевикторины «Что? Где? Когда?» и «Своей игры». Инициативу прокомментировал опытный игрок.

Теперь можно быстро тестировать нейросети и внедрять решения на основе их сжатых версий, экономя время и деньги. К примеру, «Яндекс» уже применяет метод HIGGS для ускоренного прототипирования.

IT-специалисты создали модель искусственного интеллекта, которая переводит текст с одного языка на другой в четырех разных режимах и делает это точнее предшественников. Разработка будет доступна для некоммерческого использования.

Команда исследователей с участием Александра Ширнина из НИУ ВШЭ создала две модели для обнаружения в научных текстах частей, сгенерированных искусственным интеллектом. В системе AIpom соединены два типа моделей — декодер и энкодер, что позволяет ей эффективнее находить сгенерированные вставки. Система Papilusion подходит для распознания исправлений с помощью синонимов и кратких пересказов, сгенерированных нейросетью, в работе она использует  модели одного типа — энкодеры. В перспективе подобные модели помогут в проверке оригинальности и достоверности научных публикаций.

В последние годы искусственный интеллект в целом и большие языковые модели (Large Language Models, LLM) в частности стали неотъемлемой частью многих технологических процессов. Прорывы в области обработки информации открыли новые возможности и для авиационной отрасли. Авиакомпании и аэропорты по всему миру начали активно интегрировать LLM в сферу обслуживания пассажиров. Например, генеративные нейросети и чат-боты на базе GPT-технологий уже задействуют в работе индийские Air India и американские United Airlines. Применение больших языковых моделей в авиационной сфере имеет множество плюсов, однако при этом сопряжено и с определенными рисками. О том, почему такие инновации одновременно опасны и перспективны, рассказал научный сотрудник института «Компьютерные науки и прикладная математика» МАИ, директор департамента цифровой трансформации в компании BetBoom Юрий Чайников.

Искусственный интеллект никогда не сравнится с естественной глупостью. Люди, обладающие такими технологиями, уничтожат себя с куда большей вероятностью, чем эти самые технологии. Когда появится ИИ уровня человека, какие профессии он заменит, нужно ли его бояться и кто лучше справится с задачей нарисовать лошадь, скачущую на астронавте, — языковая модель или любой из нас? Об этом Naked Science поговорил с Сергеем Марковым — управляющим директором и начальником управления экспериментальных систем машинного обучения департамента общих сервисов «Салют» «Сбера», одним из ведущих российских экспертов в области нейросетей, разработчиков сервисов Kandinsky и GigaChat и автором двухтомника «Охота на электроовец. Большая книга искусственного интеллекта».