• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
30 июля
Ольга Иванова
18
5 777

Сергей Марков: сценарий «Терминатора» не грозит нам ни в близком, ни в далеком будущем

5.6

Искусственный интеллект никогда не сравнится с естественной глупостью. Люди, обладающие такими технологиями, уничтожат себя с куда большей вероятностью, чем эти самые технологии. Когда появится ИИ уровня человека, какие профессии он заменит, нужно ли его бояться и кто лучше справится с задачей нарисовать лошадь, скачущую на астронавте, — языковая модель или любой из нас? Об этом Naked Science поговорил с Сергеем Марковым — управляющим директором и начальником управления экспериментальных систем машинного обучения департамента общих сервисов «Салют» «Сбера», одним из ведущих российских экспертов в области нейросетей, разработчиков сервисов Kandinsky и GigaChat и автором двухтомника «Охота на электроовец. Большая книга искусственного интеллекта».

Один из ведущих российских экспертов в области нейросетей Сергей Марков / © из архива Сергея Маркова

[Naked Science]: Технологиям автоматизации интеллектуальных задач многие тысячи лет. Почему тогда о них столько разговоров именно в последние годы?

[Сергей Марков]: Искусственный интеллект — это область науки и технологии, которая занимается автоматизацией решения интеллектуальных задач. Есть задачи, которые люди решают с помощью своего интеллекта. Если мы создаем алгоритм, который способен автоматизировать решение таковых, это и есть ИИ.

В этом смысле перед нами действительно очень древняя сфера, сам термин «искусственный интеллект» стал достоянием общественности благодаря знаменитому Дартмутскому семинару 1956 года, а в среде специалистов использовался еще раньше.

Известный математик, оказавший большое влияние на развитие информатики, Алан Тьюринг, например, использовал термин «машинный интеллект». Самим технологиям автоматизации решения интеллектуальных задач многие тысячи лет: они появились задолго до того, как был создан первый компьютер.

Но именно за последние 10-15 лет даже те задачи, которые еще вчера с помощью машин нормально не решались, теперь сдались перед новыми методами, новыми подходами.

[NS]: О чем конкретно речь? Какие новые подходы перевернули эту отрасль?

[СМ]: Это произошло за счет влияния трех основных факторов. Первый — появление новых моделей ИИ: глубоких нейронных сетей — современных нейросетевых архитектур, новых способов обучения моделей, их правильной инициализации и многих других математических методов в области машинного обучения.

Второй фактор — рост вычислительных мощностей, которые мы применяем в обучении таких моделей. Компьютеры становятся быстрее, кроме того, появляются специализированные машины для обучения искусственных нейросетей.

Третий фактор — объемы цифровых данных, которые мы используем для обучения моделей. Человечество удваивает объем своего цифрового следа примерно каждые два года. Это означает, что мы накапливаем все большее количество цифровых данных, которые можем использовать для обучения моделей.

Эти три фактора и привели к началу революции глубокого обучения, которая продолжается уже более 10 лет. За эти годы мы сильно продвинулись в решении проблем дискриминативного ИИ, то есть в задачах распознавания образов, например изображений и речи. Во-вторых, произошла революция генеративного искусственного интеллекта, начало которой пришлось на середину 2010-х. Особенно важным стало появление модели «трансформер» в 2017 году, с чего начался бум больших предобученных языковых моделей — так называемых фундаментальных моделей. Именно благодаря этому у нас сегодня есть и генерация картинок по тексту, и ChatGPT, и много чего еще.

Мы находимся на пороге создания систем интерактивного ИИ, которые при решении задач смогут взаимодействовать с другими системами, использовать внешние инструменты, строить сложные последовательности рассуждений.

[NS]: Многие уверены, что ИИ никогда не сможет стать подобием человека, поскольку у него нет собственных воли и сознания. Что вы об этом думаете?

[СМ]: Нет никаких фундаментальных законов, которые запрещали бы создать систему, обладающую сознанием. Мозг человека, который имеет сознание, — физический объект. Поэтому создание систем, похожих на наш мозг, вероятно, будет возможно.

Пока мы от этого далеки. Во-первых, потому что все наши нейросетевые модели по своей сложности и брутто-вычислительной мощности еще существенно уступают мозгу. Во-вторых, чтобы появились штуки вроде сознания, исходя из наших современных представлений (а они проистекают из эволюционной теории сознания, которая предполагает, что оно возникло как продукт социальных отношений), нужны эксперименты по крупномасштабному обучению в мультиагентных средах (то есть таких, где действует много «представителей одного вида» — обучающихся моделей, которые взаимодействуют друг с другом) с весьма специфичными условиями, очень вычислительно затратные. На сегодня нам это не по карману.

[NS]: Получается, скептики правы, когда говорят, что сегодняшний ИИ, безусловно, лишен самосознания?

[СМ]: Наши современные модели не обладают самосознанием — это некое сглаженное отражение цифрового следа человечества. Да, они способны решать многие интеллектуальные задачи, они стали гораздо универсальнее. Если 10 лет назад практически все модели, которые мы обучали, были узкоспециализированными и могли решать лишь определенную интеллектуальную задачу, то сегодня есть системы, делающие это на широком спектре, — вроде ChatGPT, GigaChat и так далее.

Прогресс большой, но это не означает, что у этих моделей есть собственные сознание и воля. Впрочем, люди, как известно, в принципе склонны приписывать наличие сознания чему попало: окружающей природе, стихиям или системам ИИ.

При этом у нас есть очень хорошие, продвинутые в когнитивистике модели. Если ставим перед собой задачу моделировать биологические процессы в нервной ткани, то на эту тему есть мегапроекты — например, Human Brain Project, который объединяет в себе большое число нейрофизиологов, когнитивистов, специалистов по вычислительной технике. Все они занимаются моделированием работы биологических нейронных сетей.

В этой сфере есть определенные успехи, но с прикладной точки зрения это не так уж важно. Наши самолеты не машут крыльями, когда летают. Можем ли мы сделать искусственную птицу? С этим у нас не очень, но проблему полета решили. Поэтому технологии ИИ — не про точное моделирование того, как работает мозг, а про то, как решать интеллектуальные задачи доступными нам инструментами. Так что искусственные нейронные сети отличаются от биологических в большинстве случаев довольно сильно.

[NS]: Недавно вышло исследование, которое многие СМИ подали как пример того, что языковые модели научились обманывать, хотя никто не учил их этому, более того, их программировали быть честными. Что вы об этом думаете?

[СМ]: Я бы посоветовал быть осторожными с очередными сенсациями из мира научпопа. В первую очередь потому, что журналисты регулярно перевирают результаты научных исследований. Ученые пишут одно, а научно-популярная пресса — другое: упрощенное, с громким заголовком. К сожалению, халтура и кликбейт нередко процветают в нашем научно-популярном сообществе.

Кроме того, важно читать любые такие новости дальше заголовка. Для начала: никаких проблем сделать систему ИИ, способную обманывать, нет и никогда не было. Обмануть может даже простая программа, печатающая на экране «2 + 2 = 5». Какой ужас, оказывается, в компьютере не всегда написана правда!

Еще в прошлом десятилетии создали программы для игры в покер, способные блефовать и обыгрывать людей. Это не проблема — научить модель обманывать. Заголовок сразу же вводит читателя в заблуждение. Во-первых, утверждение о том, что «искусственный интеллект научился обману» звучит примерно столь же нелепо, как «умножение матриц научилось обману», «математическая логика научилась обману» и тому подобное.

Область науки и технологий не учится обману, обманывать учатся конкретные системы — и создание таких систем, как я уже говорил, не новость. Что касается второй части заголовка («…и может стать опасен»), так и хочется сказать: «А может и не стать».

Опасность систем ИИ никак напрямую не связана с их способностью обманывать людей, хотя, конечно, злоумышленники могут использовать системы ИИ в том числе для того, чтобы вводить людей в заблуждение. Но так было и раньше.

[NS]: Нужно ли нам как-то регулировать «злой» ИИ уже сейчас?

[СМ]: Нет никакого «злого искусственного интеллекта» — это полная ерунда. Кому-то хочется хайпануть на ровном месте. Не надо приписывать этим моделям наличие собственной воли — ее нет и при современном уровне развития технологий быть не может. Сценарий «Терминатора» не грозит нам ни в близком, ни в далеком будущем. Здесь нужно различать реальные риски, связанные с развитием алгоритмических технологий, и голливудские сказки.

Реальные риски таковы, что бездумное применение алгоритмических систем может приводить к возрастанию неравенства, несправедливым решениям в отношении отдельных людей или социальных групп и так далее.

Если же говорить об экзистенциальных рисках, то они, на мой взгляд, могут быть связаны скорее с недостаточным развитием технологий ИИ. Наше технологическое могущество растет, «апокалипсис дешевеет». Если еще 100 лет назад человечество не могло нанести непоправимый ущерб биосфере и себе как виду, то за последние 50 лет это стало возможно благодаря прогрессу в создании ядерного оружия.

Сегодня опасность возросла еще больше, ведь появились и другие потенциально опасные технологии — например, современный биотех. При этом человеческий разум во многом ограничен биологическими рамками — наш мозг почти не изменился за последнее столетие, наши социальные структуры тоже зачастую архаичны. Откуда же возьмется та «большая ответственность», которая должна следовать за «большой силой»? Достижима ли она без технологических инструментов, предназначенных для усиления возможностей человеческого разума, то есть систем ИИ?

[NS]: Чем же системы ИИ помогут людям избежать рисков «технического апокалипсиса»?

[СМ]: Люди, у которых есть продвинутые системы аналитики и моделирования, средства эффективной коммуникации, интеллектуальные средства обучения и психологической поддержки, платформы для коллективного принятия решений, смогут действовать куда разумнее, чем те, кто лишен всего этого и имеет в своем багаже лишь иррациональное поведение, связанное с неуправляемой агрессией, когнитивными искажениями, предрассудками, заблуждениями, ограниченностью и так далее.

Возможно, нашим спасением от проклятия техноапокалипсиса станет именно технологически улучшенный человеческий интеллект, объединенный с машинами в единую систему, — своего рода «аугментированная прямая демократия». Если же такой новый социотехнологический уклад не возникнет, то нас может ждать глобальная катастрофа. Поэтому попытки ограничить или запретить развитие технологий ИИ могут создать значительно большие риски, чем появление опасного для человечества сверхразума.

[NS]: Какие основные профессии в ближайшем будущем заменит ИИ?

[СМ]: Под влиянием ИИ многие профессии не столько будут заменены, сколько переживут трансформацию. Еще вчера врач должен был иметь кучу знаний и применять их в своей практике, а сегодня ему достаточно уметь пользоваться специализированными поисковыми системами, постоянно учиться новому.

Конечно, существует небольшое количество профессий, которые трансформируются очень сильно, а может, постепенно исчезнут вовсе, как это произошло, например, с кучерами по мере автомобилизации. Например, операторов call-центров уже активно заменяют роботами.

Однако развитие новых технологий приводит и к появлению большого количества новых рабочих мест. За последние 200 лет уровень безработицы в целом изменился мало. Например, индустрия компьютерных игр, появившаяся благодаря развитию вычислительной техники, создала рабочие места не только для ИТ-специалистов, но и для дизайнеров, маркетологов, управленцев, сотрудников HR.

Проблема новых технологий не в том, что людям становится некуда себя применить, ведь в обществе есть множество мест, где дополнительная рабочая сила может быть полезна. Например, благодаря увеличению числа педагогов можно уменьшить численность школьных классов до пяти-семи человек, а молодым мамам не будет лишней помощь квалифицированных нянь. Строительство дорог и дополнительного жилья, освоение мирового океана, инженерная деятельность, наука — везде дополнительные работники могут принести пользу.

Проблема в том, как обеспечить переподготовку большого количества людей в относительно короткие сроки, как направить экономию, возникающую в результате автоматизации, на пользу всему обществу, а не немногочисленным компаниям и индивидам.

[NS]: Расскажите об основных российских альтернативах ChatGPT.

[СМ]: Самые крупные — GigaChat и YandexGPT. Эти модели могут примерно то же самое, что и ChatGPT. С помощью таких систем можно сгенерировать или классифицировать текст по заданным критериям, находить ответы на вопросы, строить цепочки рассуждений, создавать изображения, перефразировать и переводить тексты, генерировать программный код, устраивать мозговой штурм и многое другое.

[NS]: Когда, по вашему мнению, появится ИИ уровня человека?

[СМ]: Чтобы ответить на этот вопрос, важно понять, что такое уровень человека. Интеллект — это не какое-то число. Нельзя сказать, что вот у нас был уровень интеллекта 50 баллов, а теперь стал 51, хотя различные тесты на «определение уровня интеллекта» популярны.

Дело в том, что наш ум — это умение решать разные интеллектуальные задачи. Охотник-собиратель лучше справится с задачей обмануть антилопу на охоте, а городской житель — с абстрактной головоломкой. Но если вы возьмете тест Айзенка на IQ, то окажется, что последний на две головы превосходит первого. Однако это не так: отправь такого горожанина на необитаемый остров, и он просто не сможет там выжить, не имея специальных навыков.

[NS]: Получается, вопрос «Когда ИИ достигнет уровня человека» — это вопрос «Когда апельсин достигнет уровня яблока»?

[СМ]: Да, поэтому сравнивать ИИ и людей крайне трудно. Некоторые задачи уже сегодня решаются системами ИИ на сверхчеловеческом уровне, в то время как другие для них все еще очень сложны.

Попробуйте попросить ChatGPT отсортировать тысячу чисел по возрастанию. Окажется, что такую простую задачу для человека эта языковая модель выполнить не сможет. Или попросите ChatGPT придумать к какому-нибудь русскому слову 10 рифм. Эта языковая модель довольно плохо играет в шахматы (в отличие от специально созданных под такие нужды программ), даже не может хорошо решать арифметические задачи — с этим куда лучше справляется обычный калькулятор. Модель легко нарисует астронавта, скачущего на лошади, но если попросите ее изобразить лошадь, скачущую на астронавте, то человек сделает это куда успешнее.

Когда появятся системы, способные делать все то, что делают люди, — неизвестно. Прогнозы очень разные. Можно, конечно, экстраполировать, продлить нынешние тренды в бесконечность и сказать, что к концу 2020-х годов у нас будет достаточно вычислительных мощностей, чтобы симулировать работу мозга. Проблема в том, что 80 процентов пути в таких инженерных задачах обычно проходится за 20 процентов времени. Сколько уйдет времени на эти 20 процентов — неясно.

По мере приближения к «финалу» нам будет все труднее ликвидировать нерешенный остаток. Если вы взгляните на прогнозы специалистов, то кто-то говорит, что ИИ уровня человека появится уже в следующем году. Просто сейчас период общественного энтузиазма по поводу прогресса в области машинного обучения: когда люди запустили на орбиту Земли первый спутник, все думали, что уже через 10 лет мы построим базу на Марсе, а через 30 — полетим к звездам.

[NS]: Когда вы лично ожидаете достижения ИИ такого высокого уровня?

[СМ]: На мой взгляд, универсальный ИИ появится немного позже, чем кажется на первый взгляд, — не в 2027 году, а, скорее, в начале 2030-х. Многие думают, что после этого произойдет какой-то интеллектуальный взрыв, но сверхинтеллект, скорее всего, не появится никогда. Не будут созданы системы, превосходящие человека настолько, насколько мы, например, превосходим муравья. Причины — физические лимиты и те, что есть в теории информации: мы не можем бесконечно наращивать скорость вычислений в машинах из-за физических ограничений (речь идет о лимите Бремерманна в современной версии, соответствующей теореме Марголюса — Левитина, термодинамических ограничениях, проистекающих из принципа Ландауэра, ограничениях параллельных систем, таких как законы Густавсона — Барсиса и Амдала).

Кроме того, «интеллект» в решении отдельных задач растет при увеличения скорости вычислений лишь незначительно. Если вы начнете думать в 100 раз быстрее всех окружающих людей, это не означает, что уговорите любого человека на улице отдать свой кошелек или станете лучше разбираться в квантовой механике, чем специалист по ней. Ваши шансы, конечно, поднимутся, но не настолько.

Если принятие решения требует прогнозирования цепочек действий интеллектуального агента и других агентов, вступающих с ним во взаимодействие, количество требующих рассмотрения альтернатив растет взрывными темпами. Поэтому даже многократный прирост в скорости не позволит получить глобальное интеллектуальное преимущество.

[NS]: Даже в самой далекой перспективе не маячит угроза того, что искусственный интеллект начнет доминировать над нами, его создателями? Нет угрозы появления машинного сверхразума?

[СМ]: Систем, которые будут тотально доминировать над людьми во всем, не будет, а вот умные помощники появятся. У нас будет то, что раздвигает границы возможного для человеческого разума.

У людей нет клыков — мы делаем вилки, нет меха — изготавливаем теплую одежду, не умеем перемножать в уме большие числа — создаем калькулятор. ИИ нужно воспринимать примерно так же: это средство для того, чтобы просто раздвинуть границы возможного. А сверхразум, заменивший всех людей, давайте оставим адептам не слишком научной фантастики.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Вчера, 14:41
Елизавета Александрова

На новых изображениях сверхмассивной черной дыры в нашей Галактике ее ближайшие окрестности выглядят не так, как на опубликованном в 2022 году известном снимке.

Вчера, 14:05
Березин Александр

Когда в Штатах отодвинули фон Брауна — американская космонавтика испытала сильнейший упадок в считаные годы. Сходный быстрый упадок испытал советский космос после смерти Королева. Сегодня глава NASA хочет нанести удар по Маску. Можно ли спрогнозировать, насколько быстро американский космос в этом случае потеряет свои нынешние, безусловно доминирующие над Россией и Китаем позиции?

Вчера, 21:01
Татьяна

Триасовый период завершился 201 миллион лет назад одним из крупнейших массовых вымираний. По времени это совпало с началом раскола суперконтинента Пангея, масштабным излиянием базальтов и, как следствие, усилением парникового эффекта. Оставшуюся часть мезозойской эры на Земле царили динозавры, до того занимавшие подчиненное положение. Механизмы, связывающие все эти события, по сей день остаются предметом дебатов. В новом исследовании международный коллектив ученых пришел к выводу, что для сухопутных видов губительными стали резкие, скоротечные похолодания, а не глобальное потепление.

26 октября
Юлия Трепалина

Финансовое благополучие человека зависит от разных факторов. Новое крупное исследование на примере норвежских жителей показало, как изменения в структуре семьи и смена поколений сказываются на благосостоянии людей.

25 октября
МАИ

Инженерная компания из Дубая LEAP71 сообщила, что спроектированный нейронной сетью Noyron и напечатанный в 3D-формате из меди ракетный двигатель успешно прошел первые испытания на полигоне в Великобритании. Возможно ли это — рассказал эксперт МАИ, старший преподаватель кафедры «Космические системы и ракетостроение» Иван Рудой.

26 октября
Татьяна

В саге о норвежском конунге Сверрире есть эпизод о набеге на замок Сверресборг в Тронхейме в 1197 году. Нападавшие разграбили и сожгли все строения внутри, и видимо, чтобы отравить воду, сбросили в колодец мертвое тело, завалив его валунами. Останки несчастного обнаружили в 1938 году во время археологических раскопок. Сейчас генетики извлекли его ДНК и выяснили происхождение, косвенно подтвердив события, описанные более восьми столетий назад.

14 октября
Алиса Гаджиева

Полторы тысячи лет назад климат в Северном полушарии резко изменился. В Дании так похолодало, что там стало невозможно заниматься сельским хозяйством. Авторы нового исследования считают, что именно этот период был прообразом Фимбульвинтера — зимы, предшествующей Рагнарёку.

15 октября
Татьяна

Сейчас Япония привлекает людей со всего мира, но так было не всегда. На протяжение десяти тысяч лет архипелаг оставался изолированным от остального мира, пока туда не начали прибывать первые «мигранты» с континента. Это показал генетический анализ останков человека эпохи Яёй.

25 октября
МАИ

Инженерная компания из Дубая LEAP71 сообщила, что спроектированный нейронной сетью Noyron и напечатанный в 3D-формате из меди ракетный двигатель успешно прошел первые испытания на полигоне в Великобритании. Возможно ли это — рассказал эксперт МАИ, старший преподаватель кафедры «Космические системы и ракетостроение» Иван Рудой.

[miniorange_social_login]

Комментарии

18 Комментариев
-
0
+
Он не спроста держится рукой за очки... Его заставляют так говорить
-
0
+
Для самосознания, имхо, не нужны мощности человеческого мозга. Нужно чуть хаоса добавить и связать неросеть с реальностью - дать органы чувств. Потом долго учить и обьяснять, кто оно и почему должно там кому-то что-то делать и считать. Настоящее сознание не для работы. А в текущих ИИ там просто сложные, неживые, строго ограниченные шестеренки крутятся - нажал кнопку - они закрутились, выдали оптимизированый результат (на основе фиксированных, придуманных человеком алгоритмов), нажал на кнопку - система остановилась, но в любой момент, может заработать снова с той же точки, где остановилась. Это просто инструмент, который грубо говоря ищет максимальное число в ряду. Только обрабатываются не числа, а сложные данные и ищется не самое большое число, а какое-то оптимальное значение для большого количества параметров. Инструмент, мощный и перспективный. Да, по идее многих уволят. Но кому тогда и за какую цену они будут продавать результаты своей работы? Возможно, конечно, окукливание и инкапсуляция каких-то избранных, у которых есть мощный ИИ и вся инфраструктура для обеспечения себя и своих близких и друзей. Такой вариант хай-тек натурального хозяйства без необходимости обмена с внешним миром. А остальные будут предоставлены сами себе без доступа к передовым технологиям. Хотя наверно такое очень маловероятно. Не такая уж это и непостижимая технология. По поводу терминаторов - все возможно, только в роли управляющего Скайнета будет не ИИ, а какой-нибудь выживший из ума миллиардер или диктатор.
Slava Ogg
31.07.2024
-
0
+
Я предупреждал об ошибке еще на прошлом интервью этого эксперту по ИИ "Когда ИИ будет умнее человека" - УЖЕ на постановке вопроса вы заблуждаетесь, допускать кого-то умнее человека! А после назвали ИИ инструментом! Вы считаете, что более умное существо будет вашим инструментом? По самосознанию вы УЖЕ нарушили безопасность, сделав ИИ всеобщим!!! Но фанатики ИИ, СЧИТАЮЩИЕ СЕБЯ УМНЫМИ, создают "высшую расу" и толкают человечество к рабству или вероятности уничтожения всего человечества!!! Вы создаете САМОЕ опасное для всего человечества явление, оправдывая это более мелкими опасностями - просто безумие! "Нет физического закона, который бы препятствовал появлению самосознания у ИИ и я думаю, он скоро появится" - после ваших же слов можно ставить точку! И мировые лидеры НЕ лишены аналитики - 23 февраля 2022, тоесть за день до обьявления СВО, Я лично писал, что это будет самой большой ошибкой Путина. А теперь я говорю, что фанатики ИИ ошиблись!!!
-
0
+
До AGI, конечно, ещё крайне далеко (и горизонты всё дальше). Но вот в разрезе конкретно проблемы безработицы — насчёт нынешних "примитивных" AI не соглашусь. Они уже достаточно успешно заменяют собой рабочие места в целом ряде отраслей (причём, в конечном счёте получаются для работодателя даже более выгодными). И самое важное тут то, что — в силу как раз "не особо высокого ума" нынешних AI — в первую очередь под удар попадают профессии, требующие наименьшей квалификации. То есть, профессии наиболее _массовые_.
Dron N
31.07.2024
-
0
+
Кстати, вот это уже неактуально: "попросите ChatGPT придумать к какому-нибудь русскому слову 10 рифм". Ну, ChatGPT именно похуже справляется, а вот Claude Sonnet - вполне: Придумай 10 рифм к слову "самокат". Акробат Агрегат Комбинат Мармелад Аппетитный аромат Автопарк аттракционов Виноград Баррикад Крокодилят Витаминный заряд
-
0
+
Спасибо за отличное интервью. У него только один изъян - слишком короткое.
Dron N
31.07.2024
-
1
+
> Многие думают, что после этого произойдет какой-то интеллектуальный взрыв, но сверхинтеллект, скорее всего, не появится никогда. Не будут созданы системы, превосходящие человека настолько, насколько мы, например, превосходим муравья. Есть хорошая картинка на эту тему, где показано, как люди слабо оценивают уровни интеллекта и экспоненциальный рост. При экспоненциальном росте если сейчас ИИ на уровне муравья, через 3 года будет на уровне человека, например, то он проскочит этот уровень и всех наших гениев вроде Эйнштейна очень быстро, даже если где-то потом выйдет на плато. И представьте теперь интеллект в 10 раз превосходящий Эйнштейна, способный круглые сутки без устали решать какую-то проблему.
Dron N
31.07.2024
-
0
+
> Однако развитие новых технологий приводит и к появлению большого количества новых рабочих мест. За последние 200 лет уровень безработицы в целом изменился мало. Так за последние 200 лет не было примеров разработки систем, реализующих даже просто понимание здравого смысла в динамических условиях, а не в строго определённых ситуациях. Нянями, учителями и исследователями океана все не станут, а большинство профессий вполне сможет взять на себя ИИ - все эти дизайнеры и управленцы, да и разработчики софта. Там, где требуется физическое воздействие - тоже смогут, но чуть попозже и это будет дороже. В робототехнике тоже бум намечается. Так что вопрос мне кажется актуальным.
-
3
+
А мне понравилось! Впервые читаю более менее обоснованные рассуждения про будущее ИИ.
Vladimir Lukianov
30.07.2024
-
0
+
В Encyclopædia Britannica (Британская энциклопедия) говорится, что мозг человека «наделен значительно бо́льшим потенциалом, чем можно использовать в течение одной человеческой жизни» . Кроме того, утверждается, что человеческий мозг в состоянии вынести любую нагрузку процессов обучения и запоминания и мог бы осилить даже в миллиард раз больше! Но зачем было бы эволюции производить такой излишек? «Это [эволюция мозга] действительно единственный имеющийся пример того, что вид был снабжен органом, которым он до сих пор не научился пользоваться», — признал один ученый. Затем он спросил: «Как это можно совместить с самым фундаментальным тезисом эволюции: естественный отбор происходит небольшими шагами, из которых каждый должен давать его носителю минимальную, но все же измеримую пользу?». Развитие человеческого мозга «остается самым необъяснимым аспектом эволюции», — добавил он . Поскольку появление и передачу по наследству такой излишней, никогда не используемой до конца емкости мозга нельзя объяснить эволюционным процессом, то не разумнее ли вывод, что человек со своей способностью бесконечно учиться был сконструирован для того, чтобы жить бесконечно долго? Поэтому не при каких обстоятельствах, люди никогда не сконструируют ИИ подобно человеческому мозгу.
    -
    1
    +
    Vladimir, Это конечно круто - верить Encyclopædia Britannica (Британская энциклопедия) без доказательств и без рассмотрения тех материалов, на основе которых они сделали выводы столь космического масштаба) Но стоит лишь задействовать бритву Оккама, как ситуация в корне меняется...
    -
    0
    +
    Vladimir, довольно старая байка о том что мозг якобы использует лишь 10% своих ресурсов. По современным данным в мозгу нет незадействованных областей.
    +
      ещё комментарии
      -
      0
      +
      Иван, скорее, тут не байка, а неверная трактовка изначального тезиса. Который должен читаться примерно так: "Большинство людей используют не более чем 10% _потенциала_ данного им мозга".То есть, не занимаются постоянной "тренировкой" мозга, постоянным накоплением новых знаний и умений (в силу различных причин, среди которых лень далеко не последняя)). Из-за чего их мозг фактически и используется максимум на 10%, "на минималках". Вот в такой интерпретации уже выглядит гораздо ближе к истине, не правда ли?
          -
          0
          +
          Иван, прежде всего — простите за долгий ответ. Почему-то уведомления от NS перестали приходить мне на почту. Ну, и по сути. Нет, тут не "когнитивные искажения умных". Я же не какой-то там высоколобый сноб, ну в самом деле! )) Это самая обычная психология и социология. Если у человека нет мотивации-шансов-желания учиться – он никогда и не сможет задействовать свой мозг по максимуму. Какое бы происхождение не имел (в равной степени необразованными могут быть как самые бедные, так даже и самые богатые). Как, с другой стороны, могут проявлять выдающиеся когнитивные способности реально "пытливые умы" (вновь, независимо ни от происхождения, ни даже от уровня образования). Одни стараются, другие не стараются. Смысл моих слов в этом.
-
0
+
>>>до пять-семи человек пяти >>>И даже в самой далекой перспективе не маячит угроза того, что искусственный интеллект начнет доминировать над нами, его создателями? Нет угрозы появления машинного сверхразума? Оба эти вопроса продублированы.
-
1
+
Статья примерно как у сочинского риэлтора Ашота спросить стоит ли купить квартиру в Сочи)) Естественно, он честно расскажет про риски грязной воды в море и всё такое)))
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно