Уведомления
Авторизуйтесь или зарегистрируйтесь, чтобы оценивать материалы, создавать записи и писать комментарии.
Авторизуясь, вы соглашаетесь с правилами пользования сайтом и даете согласие на обработку персональных данных.
Ученый выявил «алгоритмическую шизофрению» нейросетей
Склонность искусственного интеллекта к галлюцинациям исследовал научный сотрудник Лаборатории критической теории культуры НИУ ВШЭ — Санкт-Петербург Растям Алиев. В статье «Алгоритмическая шизофрения: метасимуляционная трансформация реальности в цифровую эпоху» ученый проводит параллель между «галлюцинациями» больших языковых моделей — их склонностью генерировать вымышленные факты — и симптомами психических заболеваний.
Результаты исследования опубликованы в журнале «Логос».
«Наше общество долго вдохновлялось научной фантастикой и представляло искусственный интеллект как холодного и неэмоционального андроида. Этот образ скорее соответствует диагнозу расстройства аутистического спектра. Однако в реальности нейросети не проявляют себя как носители РАС. Они интерпретируют эмоциональные оттенки текста, создают нечто похожее на когнитивные искажения, — объяснил Растям Алиев. — Убедиться в том, что «пациент» болен, довольно несложно: если попросить искусственного интеллекта отвечать в духе больного шизофренией, то точность его ответов увеличивается, как будто он становится более внимателен к деталям, то есть знакам».
Однако при сложных запросах галлюцинации обостряются: не находя готового ответа, нейросеть комбинирует факты из собственной базы знаний со своей «фантазией». Такой феномен рождает новое научное понятие — метасимулякра — псевдореальности, в которой алгоритмы формируют способы мышления. Ученый считает это еще одним признаком «психических болезней» искусственного интеллекта.
«С одной стороны, продукты искусственного интеллекта созданы на основе реальности, с другой — предвосхищают ее. Сгенерированные нейросетями изображения реальных людей или мест с множеством искажений — это типичный пример метасимулякра», — добавил Растям Алиев.
Отличительная черта искусственного интеллекта — неспособность выявить собственные ошибки. Большие языковые модели всегда уверены в правильности ответа, даже если он далек от реальности. При этом, когда пользователь указывает на неточность, нейросеть начинает приводить аргументы, которые оказываются лишь ее галлюцинациями. Ученый предостерегает: полностью доверять искусственному интеллекту по-прежнему нельзя.
«В современном мире искусственный интеллект становится частью повседневности. К нему обращаются люди, которые нуждаются в психологической помощи, им заменяют сотрудников. Но относиться к нему нужно осторожно. Всегда помните, что ваш собеседник тяжело «болен», перепроверяйте за ним все», — подытожил научный сотрудник Лаборатории критической теории культуры НИУ ВШЭ — Санкт-Петербург.
В перспективе Растям Алиев не исключает возможность создания «чистого» искусственного интеллекта, лишенного склонности к галлюцинациям. Однако путь к этому лежит через глубокое междисциплинарное понимание природы этих «расстройств», которому и посвящена его работа.
Telegram 
Дзен 
VK Не исключено, что болезнь Альцгеймера — инфекционно-воспалительное заболевание. В пользу этой гипотезы говорят результаты нового исследования. Оно показало, что прием препарата от распространенного кошачьего паразита — токсоплазмы — и вакцинация от вируса герпеса связаны со снижением риска болезни Альцгеймера.
Археологи из Дании и Испании восстановили карту растительности Ближнего Востока времен зарождения сельского хозяйства. Вопреки популярному мнению, потепление климата не расширило, а сократило ареалы диких злаков на 25%, вынудив древних людей начать их культивацию в изолированных экологических убежищах.
Специфический запах древнеегипетских мумий связан с летучими органическими веществами, которые выделяют составы для бальзамирования. Ученые провели анализ этих соединений и обнаружили, что в разные периоды истории Древнего Египта бальзамировщики использовали разные наборы материалов.
Астрономы недавно проанализировали базу данных о падающих на Землю объектах и пришли к выводу, что два из них прибыли из межзвездного пространства. Известна не только дата, но и место падения каждого из них.
На наземные растения, в основном деревья, приходится 80 процентов всей биомассы Земли, 450 миллиардов тонн сухого углерода и более двух триллионов тонн «живого веса». Поэтому идея сажать новые леса для связывания СО2 из атмосферы долго казалась логичной. Новые данные показали, что реальность заметно сложнее.
«Любить лишь можно только раз», — писал поэт Сергей Есенин, а герои культовых сериалов приходили к выводу, что «настоящая» влюбленность случается в жизни максимум дважды. Однако ни один из этих тезисов не подкреплен научными данными. Американские исследователи подошли к вопросу иначе: опросили более 10 тысяч человек и вывели среднее число сильных влюбленностей, возможных в течение жизни.
Астрономы недавно проанализировали базу данных о падающих на Землю объектах и пришли к выводу, что два из них прибыли из межзвездного пространства. Известна не только дата, но и место падения каждого из них.
Международная команда палеонтологов описала новый вид динозавра размером с крупную современную птицу. Он носил на голове плотный костяной нарост, который эти животные, возможно, использовали для внутривидовых разборок. Находка показывает, что даже мелкие хищники мелового периода могли решать конфликты не только когтями и зубами, но и ударами головой.
Образцы грунта, взятые астронавтами полвека назад, вложили еще один важный кирпич в здание научной картины мира: гипотеза о том, что Земля исходно была сухой, не стыкуется с фактами. Похоже, идею о невозможности сохранения большого количества воды на «теплых» планетах придется пересмотреть.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно