• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Ученые считают, что ИИ может притворяться более глупым, чем есть на самом деле

Новое исследование показало, что продвинутые модели ИИ могут притворяться глупее, чем они есть на самом деле, и это может иметь серьезные последствия, поскольку они продолжают активно развиваться.

GPT-4 / © OpenAI
GPT-4 / © OpenAI

В статье, опубликованной в журнале PLOS One, исследователи из Берлинского университета имени Гумбольдта обнаружили при тестировании большой языковой модели (LLM) по так называемым критериям теории разума, что ИИ не только может имитировать этапы изучения языка, наблюдаемые у детей, но и выражает нечто похожее на умственные способности, связанные с этими стадиями развития.

Опираясь на теорию разума, ориентированную на детей, ведущий автор исследования Анна Маклова и ее коллеги из Карлова университета в Праге попытались определить, могут ли такие модели ИИ, как GPT-4 от OpenAI, «притворяться менее способными, чем они есть на самом деле».

Чтобы это выяснить, исследовательская группа поручила моделям вести себя как дети в возрасте от одного до шести лет, давая ответы на вопросы. Пройдя более чем 1000 испытаний и когнитивных тестов, «смоделированные детские личности» действительно развивались почти так же, как дети указанного возраста, и в итоге продемонстрировали, что модели могут притворяться менее умными, чем они есть.

В интервью изданию PsyPost Анна Маклова объяснила, что эти результаты могут помочь развитию общего искусственного интеллекта (AGI), который способен мыслить и действовать как человек.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

4 Комментария
Vovancho
12.04.2024
-
0
+
Они и притворяются, судя по тому, на каком датасете его обучали.
Tupoy Strateg
12.04.2024
-
0
+
Я ливаю
-
1
+
Жопа на говне.
Предстоящие мероприятия
5 января, 10:53
Александр Березин

В конце 2025 года СМИ рассказали нам, что «новая» российская орбитальная станция (РОС) будет состоять из модулей, летающих в космосе до 30 лет. «И так сойдет!»: новую российскую орбитальную станцию соберут из остатков МКС», «Отцепим старье от МКС и будем бесконечно чинить» — это не издание «Панорама», а абсолютно реальные заголовки российских СМИ. Печально, но сходную позицию занял и лучший космический журналист и расследователь современного мира Эрик Бергер. Он зашел настолько далеко, чтобы пожалеть, что Дмитрий Рогозин уже не возглавляет «Роскосмос». А вот у тех, кто знает тему, решения по РОС, заявленные официальными лицами в конце прошлого года, вызвали положительную реакцию. Почему?

6 января, 13:57
Александр Березин

Наблюдения за поверхностью Красной планеты показали наличие в ее прошлом очень долгоживущих водоемов. Но жидкая вода должна была замерзать на древнем Марсе, потому что Солнце в ту эпоху было на десятки процентов тусклее, чем сегодня. Новые расчеты позволили ученым предположить, что эта загадка имеет решение — если учесть роль водного льда.

6 января, 18:07
Адель Романова

Три из четырех крупнейших спутников Юпитера известны «согласованностью» своего обращения вокруг Юпитера: пока Ганимед совершает полный оборот, Европа описывает два круга, а Ио — четыре. Только Каллисто нарушает гармонию и движется «по-своему», и недавно этому предложили новое объяснение: возможно, так сложилось из-за неоднородности того газопылевого облака, в котором эти луны формировались.

5 января, 10:53
Александр Березин

В конце 2025 года СМИ рассказали нам, что «новая» российская орбитальная станция (РОС) будет состоять из модулей, летающих в космосе до 30 лет. «И так сойдет!»: новую российскую орбитальную станцию соберут из остатков МКС», «Отцепим старье от МКС и будем бесконечно чинить» — это не издание «Панорама», а абсолютно реальные заголовки российских СМИ. Печально, но сходную позицию занял и лучший космический журналист и расследователь современного мира Эрик Бергер. Он зашел настолько далеко, чтобы пожалеть, что Дмитрий Рогозин уже не возглавляет «Роскосмос». А вот у тех, кто знает тему, решения по РОС, заявленные официальными лицами в конце прошлого года, вызвали положительную реакцию. Почему?

2 января, 12:27
Адель Романова

Ученые задались вопросом: почему два расположенных по соседству спутника Юпитера такие разные, ведь на Ио повсеместно извергаются вулканы, а Европа полностью покрыта многокилометровой коркой льда. Есть версия, что Ио когда-то тоже была богата водой, но по итогам недавнего исследования это сочли неправдоподобным.

6 января, 13:57
Александр Березин

Наблюдения за поверхностью Красной планеты показали наличие в ее прошлом очень долгоживущих водоемов. Но жидкая вода должна была замерзать на древнем Марсе, потому что Солнце в ту эпоху было на десятки процентов тусклее, чем сегодня. Новые расчеты позволили ученым предположить, что эта загадка имеет решение — если учесть роль водного льда.

17.12.2025, 14:19
Игорь Байдов

На скалистых берегах аргентинской Патагонии разворачивается настоящая драма. Магеллановы пингвины, долгое время чувствовавшие себя в безопасности на суше в своих многотысячных колониях, столкнулись с новым и беспощадным врагом. Их извечные морские страхи — касатки и морские леопарды — теперь блекнут перед угрозой, пришедшей из глубины материка. Виновник переполоха — грациозный и мощный хищник, недавно вернувшийся на эти земли после долгого изгнания.

12.12.2025, 13:48
Игорь Байдов

У побережья Канады морские биологи стали свидетелями необычного случая. Косатки и дельфины объединили свои силы, чтобы вместе охотиться на тихоокеанского лосося. Они погружались в темные глубины, а после удачной охоты делились пищей. Это первое задокументированное охотничье сотрудничество между двумя видами морских млекопитающих.

2 января, 12:27
Адель Романова

Ученые задались вопросом: почему два расположенных по соседству спутника Юпитера такие разные, ведь на Ио повсеместно извергаются вулканы, а Европа полностью покрыта многокилометровой коркой льда. Есть версия, что Ио когда-то тоже была богата водой, но по итогам недавнего исследования это сочли неправдоподобным.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно