Уведомления
Авторизуйтесь или зарегистрируйтесь, чтобы оценивать материалы, создавать записи и писать комментарии.
Авторизуясь, вы соглашаетесь с правилами пользования сайтом и даете согласие на обработку персональных данных.
Нейросети и образование: как безопасно внедрять ИИ в университетах
Исследователь Андрей Терников из НИУ ВШЭ в Санкт-Петербурге предложил пошаговую схему безопасного внедрения больших языковых моделей в университетах. Она учитывает типичные причины сбоев и помогает выстроить работу так, чтобы снизить риски. Такой подход позволяет вузам заранее выявлять уязвимости и безопасно запускать искусственный интеллект в обучении.
За последние два года большие языковые модели заметно изменили то, как в вузах учатся и оценивают знания. Студенты и преподаватели теперь активно используют искусственный интеллект. По последним данным, около 87% студентов применяют искусственный интеллект в учебе. Исследователи отмечают, что мы вошли в «постплагиатную» эпоху — время, когда привычная схема «сам написал или списал» больше не работает, в связи с чем важно описать допустимую помощь от искусственного интеллекта и границы ответственности студента. При этом регламенты и инфраструктура не всегда успевают за практикой, особенно в дистанционном формате с его ограничениями онлайн-контроля и высокими требованиями к конфиденциальности.
С ростом интереса к технологии выросли и риски. Модели могут «галлюцинировать» и выдавать неточные ответы, а масштабирование использования ИИ-инструментов в университетской среде добавляет технических и организационных задач. Примечательно, что анализ университетских политик в США показывает дисбаланс: более 90% вузов уже выпустили рекомендации по использованию генеративного ИИ для преподавателей и студентов, но менее 20% — для исследователей, сотрудников и администраторов. Это указывает на разрыв между практиками «на витрине» и внутренними регламентами исследовательских учреждений. Нужна понятная системная политика с четкими рекомендациями для преподавателей, студентов и администраторов.
Доцент Санкт-Петербургской школы экономики и менеджмента НИУ ВШЭ Андрей Терников проанализировал причины сбоев LLM (больших языковых моделей) в вузах — ситуаций, когда модель дает неточные ответы, спотыкается на формулировках, опирается на сомнительные данные, а проверить результат и честно оценить ее работу трудно из-за расплывчатых политик применения технологии. Статья опубликована в журнале Computer.
Исследователь использовал диаграмму Исикавы — причинно-следственную схему анализа проблем, которую еще называют «рыбьей костью»: она помогает разложить одну сложную проблему на группы подпроблем. В исследовании выделены шесть ветвей факторов: «Материалы», «Методы», «Машины», «Среда», «Люди», «Измерения».
Для каждой ветви автор описал типичные сбои, их влияние на учебный процесс и управленческие практики, а также предложил меры профилактики и интеграционные стратегии для университетских команд — от администраторов и ИТ-подразделений до преподавателей. Подход охватывает весь цикл: университетские регламенты, инфраструктуру, обучение персонала и вовлечение студентов. При этом он не требует значительных ресурсов и может внедряться поэтапно.
«Так, проблемы с приватностью данных можно решить, внедрив надежные протоколы безопасности и методы анонимизации. Технические ограничения частично решаются за счет облачных сервисов или открытых решений, а трудности во взаимодействии людей с искусственным интеллектом — за счет внедрения понятных правил и обучения», — отмечает исследователь.
Практическая логика внедрения строится на основе четырех последовательных шагов. Сначала университет проводит быстрый аудит текущей точки: где и как искусственный интеллект уже используется, какие данные попадают в модели, какие курсы и формы контроля уязвимы, где отсутствуют правила. Затем вводятся минимальные стандарты — короткие положения в учебных программах о допустимой помощи ИИ, протоколы работы с персональными данными и базовые требования к журналированию. После этого запускаются ограниченные пилоты на типовых курсах: настраивается «песочница», проверяются рубрики, собирается обратная связь от преподавателей и студентов. Наконец, успешные практики масштабируются: закрепляются роли академических руководителей, ИТ-подразделений и наставников, проводятся плановые обзоры версий моделей и регулярное обновление правил с опорой на накопленные данные.
«Мы переводим разговор об искусственном интеллекте из общих слов в понятный план, определяя приоритеты, роли и точки контроля. Если им следовать, вузы снижают риски и получают понятный эффект для студентов и преподавателей. Подход поэтапный и управляемый, его можно адаптировать под разные программы и масштабы. Он помогает выстроить прозрачные правила, укрепить доверие к оцениванию и сформировать культуру ответственного использования искусственного интеллекта», — резюмирует Андрей Терников.
Telegram 
Дзен 
VK Ученые Кабардино-Балкарского государственного университета им. Х.М. Бербекова более десяти лет изучают уникальные свойства кефирных зерен — природных симбиотических сообществ микроорганизмов, собранных в высокогорных районах Кавказа. Исследования показывают, они могут стать основой для новых методов лечения кишечных заболеваний, восстановления иммунитета и даже создания космического питания.
Морские биологи впервые детально задокументировали процесс родов у диких кашалотов. Анализ видеозаписей и акустических сигналов показал, что самки из разных родственных линий временно объединяются, чтобы по очереди выталкивать новорожденного на поверхность для дыхания. Это первое доказательство взаимопомощи при родах между неродственными особями у видов, не относящихся к приматам.
Квантовые эффекты помогают ученым во множестве сфер, но работать с ними не просто — степень определенности квантового мира концептуально отличается от того, что существует в классической физике. Чтобы подтвердить, что они работают с нужными квантовыми состояниями, физикам приходится постараться.
Морские биологи впервые детально задокументировали процесс родов у диких кашалотов. Анализ видеозаписей и акустических сигналов показал, что самки из разных родственных линий временно объединяются, чтобы по очереди выталкивать новорожденного на поверхность для дыхания. Это первое доказательство взаимопомощи при родах между неродственными особями у видов, не относящихся к приматам.
Ученые Кабардино-Балкарского государственного университета им. Х.М. Бербекова более десяти лет изучают уникальные свойства кефирных зерен — природных симбиотических сообществ микроорганизмов, собранных в высокогорных районах Кавказа. Исследования показывают, они могут стать основой для новых методов лечения кишечных заболеваний, восстановления иммунитета и даже создания космического питания.
Во время нейроанатомического исследования тканей полового члена ученые выявили высокую плотность нервных окончаний в области, которую анатомы и хирурги долгое время оставляли без должного внимания. Авторы научной работы предположили, что эта зона может играть важную роль в формировании сексуальных ощущений, и допустили, что именно там у мужчин находится аналог так называемой «точки G».
В парках некоторых стран все чаще можно заметить странную картину: синицы и воробьи вместо пуха и веточек приносят в клювах сигаретные окурки. Орнитологи из Польши решили выяснить, зачем птицы выстилают гнезда мусором, пропитанным никотином. Оказалось, пернатые нашли способ использовать вредную человеческую привычку для защиты своего потомства. Но, как это часто бывает в природе, у медали есть обратная сторона.
Марсоход «Персеверанс» обнаружил в камнях на кромке кратера Езеро спектральные признаки минерала корунда, из которого на Земле образуются рубины и сапфиры. Такие спектры на Красной планете зарегистрировали впервые. Теперь ученые пытаются понять, при каких процессах он мог там сформироваться, ведь условия на Марсе заметно отличаются от тех, в которых корунд обычно образуется на Земле.
За 10 лет лежания в почве сигаретные фильтры не растворились, а лишь замаскировались под грязь. Их пластиковые волокна распались на микрочастицы, намертво склеились с минералами и превратились во вторичный микропластик. Более того, на пятом году гниения мусор начал отравлять землю с новой силой.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно