• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Ученые считают, что ИИ может притворяться более глупым, чем есть на самом деле

Новое исследование показало, что продвинутые модели ИИ могут притворяться глупее, чем они есть на самом деле, и это может иметь серьезные последствия, поскольку они продолжают активно развиваться.

GPT-4 / © OpenAI
GPT-4 / © OpenAI

В статье, опубликованной в журнале PLOS One, исследователи из Берлинского университета имени Гумбольдта обнаружили при тестировании большой языковой модели (LLM) по так называемым критериям теории разума, что ИИ не только может имитировать этапы изучения языка, наблюдаемые у детей, но и выражает нечто похожее на умственные способности, связанные с этими стадиями развития.

Опираясь на теорию разума, ориентированную на детей, ведущий автор исследования Анна Маклова и ее коллеги из Карлова университета в Праге попытались определить, могут ли такие модели ИИ, как GPT-4 от OpenAI, «притворяться менее способными, чем они есть на самом деле».

Чтобы это выяснить, исследовательская группа поручила моделям вести себя как дети в возрасте от одного до шести лет, давая ответы на вопросы. Пройдя более чем 1000 испытаний и когнитивных тестов, «смоделированные детские личности» действительно развивались почти так же, как дети указанного возраста, и в итоге продемонстрировали, что модели могут притворяться менее умными, чем они есть.

В интервью изданию PsyPost Анна Маклова объяснила, что эти результаты могут помочь развитию общего искусственного интеллекта (AGI), который способен мыслить и действовать как человек.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

4 Комментария
Vovancho
12.04.2024
-
0
+
Они и притворяются, судя по тому, на каком датасете его обучали.
Tupoy Strateg
12.04.2024
-
0
+
Я ливаю
-
1
+
Жопа на говне.
Предстоящие мероприятия
10 июля, 09:46
Марк Чернов

Прогулки наедине с природой в абсолютной тишине существенно повышают риск опасного столкновения с дикими животными. К такому выводу пришли британские биологи, проанализировав базу данных почти 3,5 тысячи инцидентов между людьми и крупными зверями.

10 июля, 12:43
Илья Гриднев

Ученые использовали квантовые процессоры для расчета поведения атомов внутри жидкой соли, из которой образуется топливо для термоядерного синтеза. Модель с высокой точностью рассчитала химические связи внутри заряженной жидкости. Это поможет инженерам быстрее подобрать состав компонентов для будущих электростанций.

11 июля, 20:31
Александр Березин

Американское военное ведомство опубликовало четвертую часть материалов о неопознанных летающих объектах. Собственно новых файлов не так много: как и в прошлые разы, значительная часть опубликованного была известна ранее. Однако есть детали, которые действительно интересны и указывают на объекты, чья природа не может быть легко объяснена в рамках известного землянам на сегодняшний день.

6 июля, 14:44
Илья Гриднев

Сканирующая туннельная микроскопия достигла квантово-механического предела пространства-времени. Физики провели эксперимент и смоделировали перемещение одиночного электрона с атомарной точностью и скоростью в доли фемтосекунды. Результат показал границы применимости квантовых законов и объяснил механику сверхбыстрых процессов.

8 июля, 13:25
Александр Березин

Плавящийся асфальт в США, многие тысячи погибших в Западной Европе, своеобразное лето в России — все это списывают на вредоносный феномен рекордного Эль-Ниньо. И конечно же, на него спихивают и ожидаемый рост цен на кофе и основные сельхозтовары. Правда, есть в этой картине и белые пятна: в прошлые Эль-Ниньо мировые урожаи росли. Что скорее всего случится в 2026 году и отчего роль этого события может быть куда больше, чем мы думаем?

10 июля, 08:30
Сеченовский Университет

Ученые Сеченовского Университета выявили генетические особенности, связанные с развитием разных клинических форм ювенильной склеродермии — редкого аутоиммунного заболевания, которое приводит к поражению кожи, сосудов и соединительной ткани. Исследование показало, что полиморфизм ряда генов,участвующих в патогенезе склеродермии предрасполагает к развитию разных клинических форм болезни. В перспективе эти данные могут позволить точнее прогнозировать течение заболевания и подбирать терапию индивидуально.

25 июня, 16:20
Любовь С.

Вселенная может оказаться «замкнутой» глобальной структурой, где свет от далеких галактик способен возвращаться к наблюдателю с разных направлений. Именно такой сценарий не удалось исключить авторам нового масштабного обзора. Проверить его предсказания астрономы смогут уже в ближайшие годы.

25 июня, 15:09
Марк Чернов

Ученые впервые на молекулярном уровне доказали, что обычная вода одновременно состоит из двух разных жидких состояний — более плотного и менее плотного, которые непрерывно сменяют друг друга. Раз молекулярная «двойственность» действительно существует, это подтверждает спорную 30-летнюю гипотезу. Новое открытие поможет, наконец, объяснить десятки «странных» физических аномалий воды, включая ее расширение при замерзании и парадоксальное изменение вязкости под давлением.

26 июня, 14:54
Максим Абдулаев

Американские ветеринары установили, что длина шага передних лап у пожилых собак отражает возрастные изменения в работе мозга. Когда у собак развивается деменция, шаги их передних лап становятся короче, причем эта связь не зависит от хронической боли в суставах.

[miniorange_social_login]