Ученый выявил «алгоритмическую шизофрению» нейросетей
Склонность искусственного интеллекта к галлюцинациям исследовал научный сотрудник Лаборатории критической теории культуры НИУ ВШЭ — Санкт-Петербург Растям Алиев. В статье «Алгоритмическая шизофрения: метасимуляционная трансформация реальности в цифровую эпоху» ученый проводит параллель между «галлюцинациями» больших языковых моделей — их склонностью генерировать вымышленные факты — и симптомами психических заболеваний.
Результаты исследования опубликованы в журнале «Логос».
«Наше общество долго вдохновлялось научной фантастикой и представляло искусственный интеллект как холодного и неэмоционального андроида. Этот образ скорее соответствует диагнозу расстройства аутистического спектра. Однако в реальности нейросети не проявляют себя как носители РАС. Они интерпретируют эмоциональные оттенки текста, создают нечто похожее на когнитивные искажения, — объяснил Растям Алиев. — Убедиться в том, что «пациент» болен, довольно несложно: если попросить искусственного интеллекта отвечать в духе больного шизофренией, то точность его ответов увеличивается, как будто он становится более внимателен к деталям, то есть знакам».
Однако при сложных запросах галлюцинации обостряются: не находя готового ответа, нейросеть комбинирует факты из собственной базы знаний со своей «фантазией». Такой феномен рождает новое научное понятие — метасимулякра — псевдореальности, в которой алгоритмы формируют способы мышления. Ученый считает это еще одним признаком «психических болезней» искусственного интеллекта.
«С одной стороны, продукты искусственного интеллекта созданы на основе реальности, с другой — предвосхищают ее. Сгенерированные нейросетями изображения реальных людей или мест с множеством искажений — это типичный пример метасимулякра», — добавил Растям Алиев.
Отличительная черта искусственного интеллекта — неспособность выявить собственные ошибки. Большие языковые модели всегда уверены в правильности ответа, даже если он далек от реальности. При этом, когда пользователь указывает на неточность, нейросеть начинает приводить аргументы, которые оказываются лишь ее галлюцинациями. Ученый предостерегает: полностью доверять искусственному интеллекту по-прежнему нельзя.
«В современном мире искусственный интеллект становится частью повседневности. К нему обращаются люди, которые нуждаются в психологической помощи, им заменяют сотрудников. Но относиться к нему нужно осторожно. Всегда помните, что ваш собеседник тяжело «болен», перепроверяйте за ним все», — подытожил научный сотрудник Лаборатории критической теории культуры НИУ ВШЭ — Санкт-Петербург.
В перспективе Растям Алиев не исключает возможность создания «чистого» искусственного интеллекта, лишенного склонности к галлюцинациям. Однако путь к этому лежит через глубокое междисциплинарное понимание природы этих «расстройств», которому и посвящена его работа.
Telegram 
Дзен 
VK Канадские исследователи идентифицировали останки четырех членов пропавшей полярной экспедиции Джона Франклина 1845 года, сравнив их ДНК с генетическим материалом современных потомков. Открытие решило полуторавековую загадку с переодетым матросом и помогло восстановить маршрут отступления экипажа по льдам. Выяснилось, что при эвакуации моряки разделились по кораблям, после чего бросили ослабевших товарищей в спасательных шлюпках.
Молодежь сегодня проводит часы в онлайн-общении, и их манера речи часто определяется возможностью скрываться за никами. Общение в сети не только помогает оставаться на связи, но и может способствовать распространению травли, троллинга и другой словесной агрессии. Ученые считают, что анонимность усиливает эти явления, снижает самоконтроль и ответственность за свои слова. Исследование экспертов МГППУ выяснило, как анонимность в интернете меняет язык молодых людей. Понимание этих механизмов важно для создания эффективных мер профилактики негативных языковых проявлений.
Ученые из Центра фотоники и двумерных материалов МФТИ, Российского квантового центра и МГУ впервые применили оптический подход для работы с прямыми объемными магнитостатическими спиновыми волнами. Им удалось не только возбудить, но и зарегистрировать их с помощью фемтосекундных лазерных импульсов. Новый метод открывает путь к созданию быстрых, энергоэффективных оптомагнонных логических устройств и нанофотонных структур.
Канадские исследователи идентифицировали останки четырех членов пропавшей полярной экспедиции Джона Франклина 1845 года, сравнив их ДНК с генетическим материалом современных потомков. Открытие решило полуторавековую загадку с переодетым матросом и помогло восстановить маршрут отступления экипажа по льдам. Выяснилось, что при эвакуации моряки разделились по кораблям, после чего бросили ослабевших товарищей в спасательных шлюпках.
Генетика интеллекта сложна и связана с разными психоневрологическими состояниями. Оказалось, то, что повышает эрудицию, может ухудшать способность решать творческие задачи, — и наоборот. Причем паттерны этих связей уникальны для каждого диагноза.
Ученые давно сделали вывод о том, что в поздней Античности монеты перестали представлять собой цену как валюта, однако не было понятно когда именно это произошло. Новое исследование погребения римского воина из бельгийского форта Оденбург показало, в какой момент монеты стали цениться просто весом металла в кошельке.
В последнее время пуски с российских северных космодромов осуществляют без предварительного уведомления, чего не было в прошлом. Вероятно, дело в недавно упомянутых главой «Роскосмоса» атаках на Плесецк во время пуска. Сегодняшний запуск обеспечил вывод на орбиту космических аппаратов военного назначения.
Когда международная экспедиционная группа, исследующая море Уэдделла в Антарктиде на борту ледокола «Поларштерн», попыталась укрыться от шторма, ученые и экипаж судна удивились внезапному появлению острова, не обозначенного ни на одной морской карте.
Окаменелые остатки рептилии возрастом 289 миллионов лет сохранили полное анатомическое устройство грудной клетки ранних покорителей суши. Благодаря нетронутым хрящам исследователи реконструировали механику первого полноценного реберного дыхания. Наличие в тканях оригинальных белков подтвердило, что сложные органические молекулы способны сохраняться в палеонтологической летописи почти на 100 миллионов лет дольше, чем считалось.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно