Сможет ли ИИ заменить интуицию ученого? Обсуждаем будущее научного рецензирования

О том, способен ли ИИ заменить человеческий взгляд на научные открытия, мы поговорили с кандидатом физико-математических наук, экспертом в области академической этики, машинного обучения и ИИ, заведующим лабораторией №42 в ИПУ РАН и основателем сервиса интеллектуальной проверки академических работ «Думейт» Юрием Чеховичем.

Группа исследователей, отслеживающих глубину проникновения искусственного интеллекта в академическую среду, сделала вывод — значимая доля научных работ, созданных после 2020 года, в той или иной степени созданы с использованием генеративных алгоритмов. И несмотря на то, что идея поручить искусственному интеллекту рецензирование научных публикаций выглядит соблазнительно, научная среда не спешит ее внедрять. Да, в условиях, когда нагрузка на ученых растет, а сама процедура остается зачастую формальной, мысль об автоматизации процесса кажется очень привлекательной, однако за внешней эффективностью скрываются серьезные риски и для качества науки, и для академической этики.

В научной среде рецензирование всегда считалось почетной обязанностью — проявлением доверия и признания со стороны коллег. Это не просто техническая проверка текста, а интеллектуальный диалог между рецензентом и авторами, важный элемент академической культуры. С развитием цифровых платформ и серьезным ростом количества научных публикаций система рецензирования столкнулась с кризисом: рецензенты перегружены, их труд в большинстве случаев не оплачивается. Для научного журнала подобрать хороших рецензентов, готовых уделять значимую часть своего рабочего времени чтению и улучшению чужих статей — это серьезный вызов и большая удача. Можно сказать, что качество современного журнала во многом определяется сформированным «портфелем рецензентов».

При этом зачастую уважаемые рецензенты, не отказываясь от почетной обязанности рецензирования, пробуют делегировать этот процесс и поручают написание рецензий своим младшим коллегам — студентам, аспирантам, молодым ученым. Для них, конечно, такая практика полезна, но из-за отсутствия опыта неизбежны ошибки. В итоге страдает качество экспертной оценки.

На этом фоне идея привлечь искусственный интеллект кажется привлекательной: алгоритм способен быстро проанализировать текст, выделить ключевые тезисы, указать на неточности или стилистические проблемы. В результате можно получить вполне «приличную» рецензию — аккуратную, логичную, убедительную. Формально она будет не хуже, чем многие «человеческие» отзывы. Но все это лишь поверхностный уровень. Рецензирование — это не только грамматика и логические связи. В первую очередь это умение оценить научную новизну, корректность методики, релевантность цитируемых источников. Машина не всегда может уловить контекст научной дискуссии и тем более — предложить осмысленную критику.

Кроме того, у рецензирования с помощью ИИ есть правовая проблема: чтобы подготовить рецензию, нужно загрузить в систему неопубликованную рукопись, а значит, передать внешнему сервису данные, которые не подлежат разглашению. В отличие от человека, который несет персональную ответственность за сохранность информации, сервисы ИИ могут использовать текст рукописи для обучения собственных моделей. Это создает риск утечки уникальных идей, методик и результатов, что несовместимо с принципами академической этики и конфиденциальности научного рецензирования.

При этом права авторов оказываются незащищенными. Даже если утечка будет обнаружена, авторы не всегда могут предъявить издателю или владельцу ИИ-сервиса иски в связи с нарушением своих прав, в то время как существуют случаи успешной защиты авторами своих прав при несогласованном использовании их произведений для обучения ИИ. Яркий пример подобного инцидента — ситуация с компанией Anthropic, которую могут обязать выплатить по три тысячи долларов авторам, чьи книги пиратским способом были использованы для обучения ИИ-модели. Общая сумма компенсации может составить 1,5 миллиарда долларов — это 500 000 человек, авторские права которых грубо нарушили.

А теперь вернемся в академическую среду и проведем мысленный эксперимент. Представим: какой-то исследователь спрашивает у нейросети, какие перспективные направления в его сфере сейчас развиваются — и получает в ответ текст, который описывает результаты чужой, еще не опубликованной статьи. Если этот человек быстро проведет свою работу и опубликует ее раньше автора оригинального исследования, доказать первенство открытия будет практически невозможно. И эта ситуация не умозрительная, она вполне реальная.

Поэтому на сегодняшний день идея полного перехода к автоматизированному рецензированию научных статей хоть и привлекательная, но крайне сомнительная. Да, искусственный интеллект способен быстро анализировать большие объемы информации, но если в исследовании содержатся фальсифицированные данные, модель этого может не заметить. Опытный ученый, напротив, на интуитивном уровне может почувствовать, что в работе что-то не так: он может заметить несоответствия, сопоставить результаты с другими работами, понять, что эксперимент выглядит подозрительно. Алгоритм, лишенный интуиции и научного чутья, может принять фальшь за правду и одобрить недостоверную статью, если она аккуратно оформлена.

История знает случаи, когда ошибались даже именитые эксперты. Во время пандемии COVID-19 в журнале The Lancet (одном из самых авторитетных медицинских изданий) появилась статья, результаты которой впоследствии признали сфальсифицированными. Публикация повлияла на мировой стандарт лечения коронавируса, а статью отозвали лишь спустя несколько месяцев. Если подобное возможно в ведущем журнале с опытными рецензентами, что говорить о сценариях, где решение полностью доверено алгоритму?

Кроме того, при использовании искусственного интеллекта в процессе рецензирования встает вопрос этики. Если исходить из простого критерия — готов ли рецензент открыто сообщить, что использовал ИИ при оценке научной работы, — ответ чаще всего будет отрицательным. Большинство ученых вряд ли официально признают, что рецензия или какая-то ее часть была сгенерирована алгоритмом. Они подписывают заключение как личное мнение, тем самым принимая на себя ответственность за выводы. А если фактически решение принято при участии ИИ, но об этом умалчивается — речь уже идет о нарушении академической этики.

Не случайно крупнейшие научные издательства прямо запрещают использование генеративных моделей в процессе рецензирования. Если выяснится, что эксперт применял ИИ без разрешения, его, скорее всего, исключат из числа рецензентов. Это единственная действенная мера, позволяющая сохранить доверие к процедуре научной экспертизы.

Тем не менее существует и более тонкий вариант участия ИИ — как уже говорилось, в роли вспомогательного инструмента. Например, если система используется не для вынесения научных суждений, а для технических задач вроде поиска цитат, проверки формата ссылок, анализа структуры текста. В таком случае этические риски зависят прежде всего от того, куда загружается неопубликованная рукопись. Передача ее во внешний сервис недопустима: это нарушение конфиденциальности и потенциальная утрата авторских прав.

Возможное решение — создание внутренних ИИ-сервисов на стороне издателя. Если искусственный интеллект работает в защищенной среде, гарантирует нераспространение рукописей и помогает рецензентам с техническими аспектами, не вмешиваясь в научную оценку, то это можно считать этичным и даже перспективным подходом. Подобные технологии могли бы стать стандартом для крупных международных издательств, располагающих достаточными ресурсами.

Подводя итоги, можно сделать вывод, что в использовании искусственного интеллекта для рецензирования научных статей нет ничего страшного, если придерживаться принципов этики при работе с системами. ИИ может помогать рецензентам структурировать текст, выделять ключевые тезисы, проверять статистику — но не заменять их. Потому что рецензия, в первую очередь, — акт человеческого размышления, а не алгоритмическая обработка данных.

Именно поэтому сегодня человеческая экспертиза становится особенно ценной. В эпоху алгоритмов и автоматизации живая рецензия с ее субъективностью, опытом, вниманием к контексту приобретает новый вес. Важно сохранять способность критически анализировать работу, сопоставлять факты и интуитивно чувствовать научную добросовестность автора.

Закладка

-

0

+

90

Twitter

VK

Telegram