• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Ученые считают, что ИИ может притворяться более глупым, чем есть на самом деле

Новое исследование показало, что продвинутые модели ИИ могут притворяться глупее, чем они есть на самом деле, и это может иметь серьезные последствия, поскольку они продолжают активно развиваться.

GPT-4 / © OpenAI
GPT-4 / © OpenAI

В статье, опубликованной в журнале PLOS One, исследователи из Берлинского университета имени Гумбольдта обнаружили при тестировании большой языковой модели (LLM) по так называемым критериям теории разума, что ИИ не только может имитировать этапы изучения языка, наблюдаемые у детей, но и выражает нечто похожее на умственные способности, связанные с этими стадиями развития.

Опираясь на теорию разума, ориентированную на детей, ведущий автор исследования Анна Маклова и ее коллеги из Карлова университета в Праге попытались определить, могут ли такие модели ИИ, как GPT-4 от OpenAI, «притворяться менее способными, чем они есть на самом деле».

Чтобы это выяснить, исследовательская группа поручила моделям вести себя как дети в возрасте от одного до шести лет, давая ответы на вопросы. Пройдя более чем 1000 испытаний и когнитивных тестов, «смоделированные детские личности» действительно развивались почти так же, как дети указанного возраста, и в итоге продемонстрировали, что модели могут притворяться менее умными, чем они есть.

В интервью изданию PsyPost Анна Маклова объяснила, что эти результаты могут помочь развитию общего искусственного интеллекта (AGI), который способен мыслить и действовать как человек.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

4 Комментария
Vovancho
12.04.2024
Они и притворяются, судя по тому, на каком датасете его обучали.
Tupoy Strateg
12.04.2024
Я ливаю
Жопа на говне.
4 сентября, 15:39
Илья Гриднев

Ученые создали математическую модель, которая показала вероятную гибель древнего спутника Венеры из-за гравитационных сил. Теоретическое исследование предлагает один из сценариев развития Солнечной системы, чтобы понять причины кардинальных различий в эволюции Земли и ее соседки.

4 сентября, 15:11
ФизТех

Ученые из МФТИ и ИППИ РАН выяснили, что у квантовых полей вблизи черных дыр (или ускоренно расширяющейся Вселенной) есть «порог нагрева». До этого порога чем выше температура, тем быстрее поле «забывает» свое прошлое. А выше порога нагрев уже не помогает: скорость забывания становится постоянной и определяется не температурой, а самой формой пространства (например, размером горизонта).

5 сентября, 13:33
Игорь Байдов

Почему один человек легко заводит друзей, а другой предпочитает держаться в стороне? Откуда берется привычка все планировать? Почему некоторые люди сомневаются в себе? Международный коллектив ученых проанализировал данные о геномах миллиона человек и выявил 1260 независимых генетических вариантов, связанных с основными пятью чертами личности человека. Результаты исследования показали, что на индивидуальные особенности личности влияет не только воспитание, опыт и окружающая среда, но также гены.

2 сентября, 11:31
СПбГУ

Группа российских исследователей, в которую вошли океанологи Санкт-Петербургского университета, выявила существование ранее неизвестных механизмов распространения «волн Россби». В ходе работы им удалось зафиксировать точки, где перенос энергии прекращается, а траектории движения воды претерпевают изменения. Дополнительно ученые обнаружили асимметрию в динамике волновых процессов, зарождающихся у западных и восточных прибрежных течений.

2 сентября, 12:57
Марк Чернов

Международная группа физиков зафиксировала под землей в США аномальный всплеск энергии, похожий на прямое столкновение невидимой частицы темной материи с обычным веществом. Подземные датчики поймали сигнал, который не удалось списать ни на один из известных науке видов радиации или фоновых помех.

31 августа, 13:59
Мария Азарова

Мумии сохраняют следы не только болезней и травм, но и самих процедур, которым подвергали тела после смерти. Компьютерная томография головы мумии, много десятилетий пролежавшей в музее, раскрыла не совсем привычный способ извлечения мозга и другие детали бальзамирования.

9 августа, 19:34
Марк Чернов

Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.

28 августа, 15:43
Татьяна Зайцева

Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.

19 августа, 18:31
Александр Березин

После сокращения длины очередей и роста доступности бензина в первую неделю августа ситуация снова ухудшилась. Если с 20 июня по начало августа кризис носил в основном психологический характер, то сейчас ситуация принципиально иная: августовские атаки на НПЗ показали, что меры по усилению их противовоздушной обороны не были достаточно полными. Значит, прогноз автора Naked Science от 19 июля о том, что острая фаза кризиса закончится до конца лета, был частично неверным.

[miniorange_social_login]