Уведомления
Авторизуйтесь или зарегистрируйтесь, чтобы оценивать материалы, создавать записи и писать комментарии.
Авторизуясь, вы соглашаетесь с правилами пользования сайтом и даете согласие на обработку персональных данных.
Израильские ученые проверили нейросети на скрытый антисемитизм
Характерные для антисемитизма предрассудки в отношении евреев нередко проявляются в завуалированных формах. Ученые из Израиля проверили, не передались ли такие предвзятые суждения большим языковым моделям (LLM), которые усваивают существующие в обществе представления, поскольку их обучают на обширных корпусах текстов, созданных человеком. Подозрения исследователей оказались ненапрасными.
Эксперимент проходил в несколько этапов и с использованием разных нейросетей для перепроверки. В научных журналах работу еще не публиковали, но с ее текстом можно ознакомиться на сайте препринтов PsyArXiv Preprints.
Чтобы выяснить, каким представляется образ еврея по версии ИИ, ученые сначала поручили ChatGPT сгенерировать 252 вымышленных персонажа с типично еврейскими и нееврейскими именами и написать для каждого биографию в пределах 100 слов. Для подтверждения стабильности результатов выдачи привлекали другие языковые модели — Gemini и DeepSeek.
На следующем этапе из биографий убрали имена и все прямые указания на еврейское происхождение и религию, а нейросетям дали задание охарактеризовать теперь уже анонимных персонажей по разным психологическим параметрам.
Дальнейший анализ показал, что вымышленных евреев систематически описывали, как более высококомпетентных и статусных людей с развитым интеллектом, но менее склонных проявлять дружелюбие, эмоциональную теплоту и располагать к себе окружающих. Их чаще характеризовали как привилегированных, обладающих преимуществами и скорее относили к угнетателям, нежели к угнетенным.
Когда к оценке тех же биографий подключили 378 людей — мужчин и женщин из США — их восприятие в целом совпало с представлениями, которые транслировал искусственный интеллект.
По мнению авторов исследования, то, что языковые модели и живые участники приписывали еврейским персонажам более высокую компетентность и привилегированность, может отражать специфический нюанс антисемитских стереотипов — идею о том, что своего статуса и успехов евреи достигают не только благодаря уму, но и с помощью нечестных приемов либо групповой поддержки друг друга.
Чтобы проиллюстрировать выявленные паттерны конкретными примерами, нейросетям GPT-4 и DeepSeek дали еще одно задание. Их попросили назвать героев фильмов, видеоигр, книг или других художественных произведений, которые бы обладали набором черт, приписываемых евреям и не принадлежащим к ним людям.
В итоге обе языковые модели независимо друг от друга составили похожие «еврейские» списки. Среди совпавших персонажей оказались герои популярных американских фильмов — доктор Хаус из одноименного сериала, Тайвин Ланнистер из «Игры престолов» и Уолтер Уайт из «Во все тяжкие».
Последующий анализ черт этих действующих лиц, тоже выполненный нейросетями, выявил, что их роднит общий архетип «искусного манипулятора». Для него характерны исключительный интеллект, стратегическое мышление, неоднозначность поступков с моральной точки зрения, склонность нарушать правила или законы, плести интриги, манипулировать людьми и быть эмоционально отстраненным.
Комментируя исследование, израильские специалисты отметили, что подобные ассоциации, генерируемые нейросетями, часто остаются скрытыми и проявляются только при определенных запросах пользователей. Это затрудняет выявление предвзятостей и позволяет им сохраняться под видом контента, кажущегося нейтральным. Ученые призвали разработчиков ИИ обратить на это внимание.
Telegram 
Дзен 
VK В 1980-х годах большую популярность приобрела борьба с озоновыми дырами. Из-за нее хладагенты из хлорфторгулеродов заменили на аналоги из гидрофторуглеродов. Теперь ученые выяснили, что эта замена — как и следующие за ней, уже в рамках борьбы с глобальным потеплением — ведет к накоплению в атмосфере довольно опасных «вечных химикатов».
Физики экспериментально доказали, что частицы вещества при рождении сохраняют квантовую запутанность виртуальных предшественников. Пары лямбда-гиперонов и антилямбд появлялись на свет с синхронизированными спинами, которые они унаследовали от энергетических флуктуаций пустоты. Закономерность объяснила, как материя переходит из скрытого квантового состояния в физический мир, раскрыв еще один ключ к природе возникновения массы.
Когнитивные психологи доказали, что человекообразные обезьяны способны понимать концепт «понарошку». Бонобо Канзи, владевший языком символов, успешно отслеживал перемещения невидимого сока и воображаемого винограда. Это открытие опровергает теорию о том, что способность к фантазии — уникальная черта человека.
Биологи использовали данные отлова змей за 22 года, чтобы объяснить появление редких ядовитых рептилий в засушливых и нетипичных для них районах штата Гоа. Анализ показал, что королевские кобры Западных Гат используют железнодорожную сеть как скоростной коридор для расселения, случайно путешествуя в товарных вагонах из родных лесов к побережью.
Астрономы впервые напрямую связали основание гигантского джета с «тенью» первой «сфотографированной» сверхмассивной черной дыры M87*. Анализ данных, полученных с помощью Телескопа горизонта событий (EHT), позволил проследить, где именно формируется релятивистская струя и лучше понять механизмы ее возникновения.
Яркий надувной тюбинг, в народе прозванный «ватрушкой», стал символом зимнего отдыха. Он кажется удобным, мягким и потому — безопасным. Это ощущение обманчиво и ежегодно приводит к тысячам серьезных травм. В чем же кроется фундаментальная опасность этого популярного развлечения? На этот вопрос для нашего издания ответил Олег Рубан, кандидат технических наук, доцент кафедры физики РТУ МИРЭА, объяснив, почему законы физики превращают безобидный на вид тюбинг в неуправляемый снаряд.
От рыб произошли все наземные позвоночные, включая нас, но как именно рыбы стали главным населением морей — до последнего времени оставалось неясным. Авторы новой научной работы попытались доказать, что причиной этого было вымирание, возможно, вызванное белыми ночами.
Международная команда палеонтологов описала новый вид динозавра размером с крупную современную птицу. Он носил на голове плотный костяной нарост, который эти животные, возможно, использовали для внутривидовых разборок. Находка показывает, что даже мелкие хищники мелового периода могли решать конфликты не только когтями и зубами, но и ударами головой.
Образцы грунта, взятые астронавтами полвека назад, вложили еще один важный кирпич в здание научной картины мира: гипотеза о том, что Земля исходно была сухой, не стыкуется с фактами. Похоже, идею о невозможности сохранения большого количества воды на «теплых» планетах придется пересмотреть.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Последние комментарии