#нейросети

Периодически нейросети в своих ответах галлюцинируют, предлагая пользующимися их услугами людям выпить яд под видом лекарства и так далее. Новая научная работа показала, что эта проблема связана с самой природой нейросети. Хотя ее вероятность можно понизить, устранить полностью невозможно.

Модели искусственного интеллекта нередко искажают факты, что ставит под угрозу не только интерпретацию известных научных данных, но и обработку новых и написание текстов на их основе. Историк из США проанализировал специфику информации о прошлом и опубликовал рекомендации по ее изложению, которые должны сформировать у текста «иммунитет» к галлюцинациям нейросетей.

Специалисты OpenAI объяснили, почему модели ИИ иногда дают неверные ответы — так называемые «галлюцинации». Это устойчивая тенденция больших языковых моделей выдавать ответы, которые фактически могут быть неверны.

Для культурной адаптации моделей искусственного интеллекта коллектив российских ученых составил методику сбора и обработки пар данных текст-изображение. Применение методики позволило обучить модель Kandinsky 3.1 генерации изображений с учетом культурных особенностей народов нашей страны.

Международный коллектив ученых из Сколковского института науки и технологий, МФТИ, Института исследований искусственного интеллекта (AIRI) и Университета Париж-Сите разработал новый, элегантный метод для проверки логических способностей больших языковых моделей (LLM). Вместо того чтобы судить о правильности рассуждений нейросети лишь по ее финальному ответу, исследователи научились заглядывать внутрь ее механизма «внимания» и находить там скрытые паттерны, отвечающие за проверку логики. Этот подход, названный QK-score, позволяет с высокой точностью определять, следует ли модель законам логики на каждом шаге своих рассуждений, делая ее работу более прозрачной и надежной.

Слушатели узнают, каким образом можно применять нейросети в обычной жизни.

Исследователи Лаборатории языковой конвергенции НИУ ВШЭ — Санкт-Петербург Анастасия Колмогорова и Елизавета Куликова разработали «словарь нового поколения», который позволяет обучать нейросети распознавать человеческие эмоции. Работа демонстрирует трансформацию лингвистики в эпоху искусственного интеллекта.

Исследователи ТюмГУ и Института адаптивного интеллекта с помощью нейросети проанализировали модели активации адаптивного интеллекта в историях героев художественной литературы. В основу исследования легли произведения, где персонаж попадает в опасную ситуацию, применяя смекалку и находчивость. Психологи выявили факторы, которые помогли героям раскрыть навыки адаптации к перипетиям судьбы.

Исследователи факультета компьютерных наук НИУ ВШЭ улучшили метод обучения генеративных потоковых нейросетей для работы с неструктурированными задачами. Это поможет искать новые лекарства эффективнее.

Слушатели узнают, как нейроимпланты и ИИ превращают сигналы мозга в команды для экзоскелетов и синтезаторов речи.

76 процентов современных ученых используют ИИ-инструменты в своей работе, но большинство осваивает их самостоятельно, сталкиваясь с трудностями.

Когда модели искусственного интеллекта ошибаются и выдают неверный ответ на запрос, пользователи пытаются выяснить причину этой ошибки, задавая вопрос самому ИИ-помощнику. Историк технологий Бендж Эдвардс объяснил, почему делать так нет смысла и как это связано с устройством нейросетей.

Американские медики описали случай из своей практики, наглядно показывающий, чем могут закончиться консультации с ChatGPT по поводу здоровья.

Технологическая корпорация Google представила новую версию своей нейросети Genie 3, которая по подсказке человека способна создавать динамические 3D-миры.

В эксперименте ученые проследили за физиологическими реакциями при просмотре видео с музыкальным сопровождением, созданным нейросетями либо людьми. Результаты показали, что по эмоциональному воздействию ИИ-композиции могут сравниться с человеческими.

Команда исследователей из Сколтеха, МФТИ, Института искусственного интеллекта AIRI и других научных центров разработала метод, позволяющий не просто отличать тексты, написанные человеком, от сгенерированных нейросетью, но и понимать, по каким именно признакам классификатор принимает решение о том, является ли текст генерацией или нет.  Анализируя внутренние состояния глубоких слоев языковой модели, ученые смогли выделить и интерпретировать численные признаки, отвечающие за стилистику, сложность и «степень уверенности» текста.

Архитектурное бюро LYX arkitekter, воспользовавшись возможностями генеративного искусственного интеллекта, представило как могло бы выглядеть самое высокое и многоэтажное здание в мире — небоскреб «Бурдж-Халифа» (ОАЭ) в исполнении именитых архитекторов.

Даже опытные программисты считали, что использование нейросети для написания кода экономит им время. Однако, когда исследователи проверили это на задачах из реального мира, выяснилось, что разработчики ошибаются. В действительности применение ИИ увеличило время, необходимое для реализации проектов.

Новое исследование показало, что учащиеся вузов с более выраженными чертами нарциссизма, макиавеллизма, психопатии, а также материализма могут быть сильнее предрасположены к академическому обману и злоупотреблению нейросетями при выполнении учебных заданий.

Слушатели узнают, как искусственный интеллект переходит от инструмента к соучастнику в принятии решений.