#ИИ-технологии

Команда исследователей из Т-Технологий и МФТИ предложила новый подход к «воспитанию» больших языковых моделей, позволяющий им становиться умнее и безопаснее, не страдая от «сверхоптимизации» — парадоксального эффекта, когда слишком усердное обучение приводит к деградации качества. Разработанное семейство алгоритмов, получившее название Trust Region (TR), динамически обновляет «точку отсчета» для модели, позволяя ей постоянно развиваться и выходить за рамки первоначальных знаний, сохраняя при этом стабильность и адекватность.

Через несколько месяцев после внедрения инструментов искусственного интеллекта в повседневную практику клиник опытные специалисты при выполнении колоноскопии без помощи ИИ стали на 20% реже находить у пациентов предраковые новообразования, чем до начала регулярного применения технологии. В процедурах с ИИ-поддержкой уровень выявляемости патологий, напротив, был более высоким.

Группа исследователей из Центра искусственного интеллекта НИУ ВШЭ разработала индекс для определения уровня этичности систем искусственного интеллекта в медицине. Инструмент предназначен для минимизации потенциальных рисков, обеспечения безопасной разработки и внедрения ИИ-технологий в медицинскую практику.