• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Ноам Хомский резко выступил по поводу спекуляций о возможностях ИИ

Известный американский лингвист и профессор Массачусетского технологического института Ноам Хомский в эссе для New York Times поделился своим мнением о чат-ботах с искусственным интеллектом (ИИ), таких как ChatGPT от OpenAI и Bing AI от Microsoft.

Ноам Хомский / ©wikipedia

Ученый считает, что активный всплеск использования новых программ с ИИ «был воспринят как первые проблески на горизонте общего искусственного интеллекта. Этот день может наступить, но его рассвет еще не пришел, вопреки тому, что можно прочитать в преувеличенных заголовках и подсчитать по неразумным инвестициям». 

«Какими бы полезными ни были эти программы в некоторых узких областях, — отмечает Хомский, — машинное обучение в его нынешнем виде никак не может конкурировать с человеческим разумом».

«Человеческий разум не является, как ChatGPT и ему подобные ИИ, неуклюжим статистическим механизмом для сопоставления с образцом, поглощающим сотни терабайт данных и экстраполирующим наиболее вероятный разговорный ответ или наиболее вероятный ответ на научный вопрос», — поясняет Хомский. «Наоборот, человеческий разум представляет собой удивительно эффективную и даже элегантную систему, которая работает с небольшими объемами информации; он стремится не выводить грубые корреляции между точками данных, а создавать объяснения».

Хотя доступные в настоящее время чат-боты с искусственным интеллектом могут показаться имитирующими человеческое творчество и изобретательность, они делают это только на основе статистической вероятности, а не в результате более глубоких знаний и понимания, которые противоречат всем человеческим мыслительным процессам и, таким образом, «застревают в тупике». «Это дочеловеческая или нечеловеческая фаза когнитивной эволюции», — утверждает Хомский.

«В то время как люди ограничены в видах объяснений, которые мы можем рационально предположить, системы машинного обучения могут узнать и то, что земля плоская, и то, что земля круглая», — отмечает Хомски. «Они торгуют просто вероятностями, которые меняются со временем».

«По этой причине, — заключил ученый, — выводы систем машинного обучения всегда будут поверхностными и сомнительными».

Другими словами, концепт того, что эти ИИ захватят мир, при полном отсутствии человеческого понимания того, как устроен мир, невозможна.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

6 Комментариев
На самом деле снабдить ИИ Механизмом моделирования и верификации моделей (проверки гипотез) не так уж сложно. Это начинали делать еще в 60е годы прошлого века и вроде как неплохо продвинулись. Хотя это на первых порах cильно замедлит темп общения с AI
Zhe Sh
11.03.2023
-
0
+
Не кипишуй, Наумыч! У ИИ все впереди. Ты еще приди в детский сад с квадратными уравнениями, а потом рассказывай, какие же все детишки тупы-ы-ы-ые... Анекдот №240928 Заходит мужик к другу, а тот сидит с собакой в шахматы играет. - У, какая умная у тебя собака!!! - восклицает с удивлением мужик. - Какая умная?! Счет 3-2, я выигрываю.
Paidamart
11.03.2023
-
0
+
Полностью согласен с Хомским. Я общаюсь с этим ИИ чат GPT-3.5 через день и накопил уже большой объем опыта общения с ним. Так вот чат GPT-3.5 вовсе не похож на реальный ИИ типа Джарвиза из Железного Человека или Альтрона из др фильма Марвел. Он делает банальные ошибки постоянно, он даёт неверную информацию в 1 из 3-4 запросов. Он делает элементарные и банальные ошибки, например даёт неверную информацию о художественном произведении, я проверил его на знание множества классических романов и он дает ошибочную краткую выжимку из романа порой полностью меняющую суть романа. И да банальная отшлифовка алгоритмов проведет к тому что со временем он перестанет делать такие ошибки и другие более сложные ошибки тоже делать перестанет. Но дело в том, что это не приведет его к тому что он превратится в реальный так называемый "Сильный ИИ". Эти ошибки показывают что этот ИИ добывает и анализирует всю эту информацию совершенно по другому - крайне примитивным образом вовсе и рядом не похожим на тот процесс что происходит в мозге у человека. Это всего лишь искуссный механизм нахождения связи между словами и их смыслом в связи со смыслом других слов. То есть этот ИИ в буквальном смысле не понимает то с чем работает. Это просто сверхэффективная программа по формированию осмысленного синтаксиса. И уж тем более нет никакой угрозы с его стороны в области реальной видовой конкуренции с популяцией людей. А вот то что с его помощью преступники смогут наносить огромный вред это да, это реально. Тем не менее я согласен и с алармистами утверждающими что ИИ в ближайшее время став невероятно умным может нанести вред нам осознав себя и решив устранить нас как вид. Если и переживать о проблемах то лучше делать это заранее а не тогда когда гром грянет. Позиция алармистов в этом смысле более чем оправдана и обоснована. Как говорил У. Черчиль - "Вопрос не в том, параноик я или нет, вопрос только в том достаточно ли я параноик?"
Профукали мы нового терминатора .
Предстоящие мероприятия
30 июля, 18:00
Александр Березин

Квантовую механику активно применяют не только в науке, но и при некоторых расчетах, связанных с работой электроники. Несмотря на заметные практические результаты, эта отрасль науки не имеет единых взглядов на то, как на самом деле устроена та самая физическая реальность, которую квантовая механика призвана описывать.

30 июля, 15:10
Татьяна Пичугина

В древней истории скифы занимали значительное место. Их внешность и обычаи подробно описал Геродот. Скифские курганы распространены по всей Евразийской степи — от Внутренней Монголии до севера Причерноморья. Одна из характерных черт материальной культуры — знаменитый звериный стиль. Археология не дала убедительных ответов на вопросы о происхождении скифов, а также о том, кто их прямые потомки. Ученые возлагают надежды на палеогенетику.

30 июля, 08:26
Полина Меньшова

Люди часто говорят, что хотели бы построить длительные отношения прежде всего с добрым, внимательным и надежным человеком, однако большое внимание уделяют внешнему виду потенциального партнера. Исследователи из США обнаружили психологический фактор, объясняющий это противоречие и влияющий на значимость физической привлекательности при выборе «второй половинки» в каждом отдельном случае.

25 июля, 07:47
Адель Романова

Прибывшая из межзвездного пространства предполагаемая комета 3I/ATLAS движется по траектории, максимально удобной для гравитационных маневров управляемого корабля, при этом возможность ее отслеживания с Земли практически минимальна. По мнению некоторых ученых, такое «поведение» объекта наводит на определенные мысли.

25 июля, 12:02
Юлия Тарасова

В эксперименте ученые проследили за физиологическими реакциями при просмотре видео с музыкальным сопровождением, созданным нейросетями либо людьми. Результаты показали, что по эмоциональному воздействию ИИ-композиции могут сравниться с человеческими.

28 июля, 12:46
Илья Гриднев

Физики впервые смогли напрямую наблюдать спиновые волны, или магноны, внутри материала с нанометровым разрешением. Это достижение открывает путь к созданию нового поколения электроники, более быстрой и энергоэффективной.

25 июля, 07:47
Адель Романова

Прибывшая из межзвездного пространства предполагаемая комета 3I/ATLAS движется по траектории, максимально удобной для гравитационных маневров управляемого корабля, при этом возможность ее отслеживания с Земли практически минимальна. По мнению некоторых ученых, такое «поведение» объекта наводит на определенные мысли.

2 июля, 11:17
Юлия Тарасова

Результаты эксперимента в США в будущем могут позволить добиться разрешения на использование отработанной конопли в качестве кормовой добавки в животноводстве.

22 июля, 14:44
ФизТех

Команда исследователей из Сколтеха, МФТИ, Института искусственного интеллекта AIRI и других научных центров разработала метод, позволяющий не просто отличать тексты, написанные человеком, от сгенерированных нейросетью, но и понимать, по каким именно признакам классификатор принимает решение о том, является ли текст генерацией или нет.  Анализируя внутренние состояния глубоких слоев языковой модели, ученые смогли выделить и интерпретировать численные признаки, отвечающие за стилистику, сложность и «степень уверенности» текста.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно