• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Ученые считают, что ИИ может притворяться более глупым, чем есть на самом деле

Новое исследование показало, что продвинутые модели ИИ могут притворяться глупее, чем они есть на самом деле, и это может иметь серьезные последствия, поскольку они продолжают активно развиваться.

GPT-4 / © OpenAI
GPT-4 / © OpenAI

В статье, опубликованной в журнале PLOS One, исследователи из Берлинского университета имени Гумбольдта обнаружили при тестировании большой языковой модели (LLM) по так называемым критериям теории разума, что ИИ не только может имитировать этапы изучения языка, наблюдаемые у детей, но и выражает нечто похожее на умственные способности, связанные с этими стадиями развития.

Опираясь на теорию разума, ориентированную на детей, ведущий автор исследования Анна Маклова и ее коллеги из Карлова университета в Праге попытались определить, могут ли такие модели ИИ, как GPT-4 от OpenAI, «притворяться менее способными, чем они есть на самом деле».

Чтобы это выяснить, исследовательская группа поручила моделям вести себя как дети в возрасте от одного до шести лет, давая ответы на вопросы. Пройдя более чем 1000 испытаний и когнитивных тестов, «смоделированные детские личности» действительно развивались почти так же, как дети указанного возраста, и в итоге продемонстрировали, что модели могут притворяться менее умными, чем они есть.

В интервью изданию PsyPost Анна Маклова объяснила, что эти результаты могут помочь развитию общего искусственного интеллекта (AGI), который способен мыслить и действовать как человек.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

4 Комментария

Vovancho
12.04.2024
-
0
+
Они и притворяются, судя по тому, на каком датасете его обучали.
Tupoy Strateg
12.04.2024
-
0
+
Я ливаю
-
1
+
Жопа на говне.
Предстоящие мероприятия
Вчера, 12:38
ПНИПУ

Происхождение нефти и газа стали изучать еще до возникновения нефтяной промышленности. О генезисе важных ресурсов до сих пор нет единого мнения. Ученые Пермского Политеха рассказали, откуда они взялись на нашей планете, возможна ли их добыча в космосе, как нефть используется в продуктах питания и что такое «дверь в преисподнюю».

Позавчера, 16:56
Андрей

Группа энтомологов решила уточнить, откуда происходят предки современных рыжих тараканов и каким образом те захватили человеческие жилища почти на всех континентах. Для этого ученые секвенировали ДНК примерно 300 насекомых и смоделировали наиболее вероятные сценарии расселения на основе генетической информации.

Вчера, 08:35
Полина Меньшова

Ледник Туэйтса в Западной Антарктиде, который также называют «ледником Судного дня», может растаять раньше, чем считали ученые. Теплые океанские воды воздействуют на него сильнее, чем предполагалось, показали новые спутниковые данные.

20 мая
Полина Меньшова

Британский учитель географии Грэм Сеньор работал в саду и случайно обнаружил в земле небольшой прямоугольный камень. Оказалось, что на артефакте высечен текст, написанный с помощью древнего кельтского алфавита огам.

Позавчера, 16:56
Андрей

Группа энтомологов решила уточнить, откуда происходят предки современных рыжих тараканов и каким образом те захватили человеческие жилища почти на всех континентах. Для этого ученые секвенировали ДНК примерно 300 насекомых и смоделировали наиболее вероятные сценарии расселения на основе генетической информации.

18 мая
Полина Меньшова

При гипертонии пациентам рекомендуют аэробные тренировки, включающие в себя, например, ходьбу, бег, танцы, езду на велосипеде. Но такая физическая нагрузка положительно влияет на артериальное давление только в вечернее время, выяснили физиологи из Бразилии и США.

24 апреля
Ольга Иванова

Ученые из Австралии и Канады пришли к выводу, что подавляющее большинство одиноких людей не вступает в романтические отношения из-за страха. С одной стороны ими руководят опасения, что их отвергнут, с другой — что они потеряют свою независимость.

15 мая
НИУ ВШЭ

Международный коллектив исследователей при участии ученых из Института когнитивных нейронаук НИУ ВШЭ изучил, как выбор иностранного языка влияет на когнитивные способности человека. Оказалось, что языки, непохожие на родной, стимулируют когнитивную функцию на начальном этапе их изучения, а близкие к родному имеют отложенный эффект и помогают мозгу эффективнее работать при более высоком уровне владения иностранным языком.

3 мая
Василий Парфенов

Ледяной покров Антарктики претерпевает значительные изменения на протяжении года, и его поведение хорошо изучено в общем. Но некоторые локальные аномалии объяснить не получается вот уже несколько десятилетий. Одна из них — полынья возвышения Мод, или полынья моря Уэдделла, которая появляется нерегулярно на одном и том же месте. Международная команда океанологов, наконец, смогла разгадать механизмы ее образования.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно