Как люди смогут угнаться за ИИ в понимании и освоении нового, в открытиях и технологиях? Или им останется только безнадежно деградировать?

Спрашивает
Дмитрий
#будущее
+2
#ИИ
#искусственный интеллект
09.04.2023
3 717
Средний вопрос

Отличный вопрос — он бьет в самую суть проблемы, с которой миру предстоит столкнуться. Но правда в том, что никто не знает ответа на этот вопрос, потому что он касается будущего при многих важных неизвестных, которые нельзя вычислить наперед. Сегодня ИИ уже приходит в науку, помогая искать решения там, где их трудно найти путем наблюдений и размышлений: вместо теорий и формул нейросети используют статистику. Мы уже подробно рассказывали о том, как ученые используют машинное обучение и что им удается узнать. Вероятно, со временем ИИ будет становиться мощнее и перейдет к выдвижению гипотез, постановке экспериментов и подлинным открытиям. О роли и перспективах ИИ в науке можно почитать, например, специальный раздел журнала Nature Reviews Physics.

Поскольку нейросетевой ИИ остается для людей «черным ящиком», то его ход рассуждений для нас закрыт — в общем случае мы не сможем узнать, как он пришел к тому или иному выводу. Мы получим от него научные открытия, но доверие к ним всегда будет условным. Хуже того, это ведет к эрозии понимания картины мира учеными, и в этом заключается главный риск. Начиная с эпохи Просвещения наука строилась на том, что каждый элемент картины имел обоснование, его можно было проверить в логике причин и следствий. Наука новой эпохи будет накапливать факты, выводы и прогнозы, обосновать которые людям не под силу.

Как не деградировать в такой ситуации? Сперва дам полушуточный ответ: посмотрите на тех, кто занимается квантовой физикой. Они тоже имеют дело с «черным ящиком», их реальность противоречит интуиции и полна парадоксов, частицы в щелевом эксперименте ведут себя возмутительно, и никто не знает, почему. Физики научились работать с тем, что не поддается пониманию, но зато хорошо описывается математически.

Ответ посерьезнее: придется адаптироваться и признать, что могут быть разные типы интеллекта, и человеческим машинный не обязательно удастся постичь. Скорее всего, ИИ не будет мыслить как люди, у него будут свои изъяны, и важно уметь их замечать, сохранив за собой способность оспаривать результаты машины. Следует не только разрабатывать и использовать ИИ для изучения мира, но и изучать непосредственно ИИ. Это должно стать отдельным направлением исследований. Возможно, так удастся не только продвинуться в интерпретируемости, но и выйти на новые идеи о том, что значит «познавать» и «мыслить».

Потребуется создать протокол перевода с машинного понимания на человеческое. В идеале нам нужен научный ИИ, который сумеет понятно для нас объяснить, что он открыл и как устроен мир с его точки зрения. И без галлюцинаций (нынешний генеративный ИИ часто галлюционирует, т.е. выдумывает вещи, не имеющие отношения к реальности).

Комментарии

6 Комментариев

Люди верят, что ИИ обгонит их в развитии и им останется только деградировать. Ну что может быть сильнее веры? Много людей на коленях ползают перед попами. Да много примеров веры без мозгов. Откуда ИИ черпает свои данные? Люди загружают в него все так, как они это видят и понимают, как их самих научили. И именно в этой последовательности, в таком порядке и никак по другому. ИИ - машина, которая принимает данные от человека уже со сложившейся точкой на все и ровно как этот человек не может перешагнуть уровень своего развития, сделать великое открытие, так и ИИ не перешагнет. Не надейтесь даже
-
0
+
Следует не только разрабатывать и использовать ИИ для изучения мира, но и изучать непосредственно ИИ. Это должно стать отдельным направлением исследований. Возможно, так удастся не только продвинуться в интерпретируемости, но и выйти на новые идеи о том, что значит «познавать» и «мыслить». ---- если кто заинтересуется, есть фундаментальный труд по ИИ -- Рассел, Норвиг. Искуственный интеллект, современный подход. По нейронным сетям есть исчерпывающая книга Хайкин. Нейронные сети (осторожно, много математики).
Dron N
09.04.2023
-
0
+
Так языковые модели как раз могут всё по шагам объяснять. Ну и научное знание не нужно принимать на веру, его как раз можно будет проверить.
-
0
+
1.Хм, как будто бы без ИИ человек упускал шанс деградировать. Эта свинья везде грязь найдет. 2.Есть мнение, что даже безо всякого ИИ экономика движется к состоянию рынка "суперзвезды и все остальные". Суперзвезды получают необоснованно высокие гонорары, остальные довольствуются крохами. 3.Не нужно так психовать, базовый безусловный доход многих успокоит и оставит там же, где они находятся сейчас - с пивом у телевизора. А вкалывать будет "проклятый кровопийца, мироед, захребетник и иксплататор - демонический ИИ".

Есть что спросить?

Вы можете получить ответ на вопрос по любой теме от экспертов нашей редакции, хорошо разбирающихся в этой теме.

Задать вопрос

Похожие вопросы

В завязке фильма «Интерстеллар» некий патоген растений умеет потреблять азот из атмосферы и почвы, а также...Читать далее

Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно