• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Лауреат Нобелевской премии по физике заявил, что не до конца понимает технологию ИИ, которую он помог создать

Американский ученый Джон Хопфилд, получивший Нобелевскую премию по физике 2024 года за новаторскую работу в области искусственного интеллекта, заявил, что считает последние достижения в этой сфере «крайне тревожными», и предупредил о возможной катастрофе.

Джон Хопфилд / © Getty Images
Джон Хопфилд / © Getty Images

Почетный профессор Принстона Джон Хопфилд во время выступления отметил, что современные системы ИИ кажутся «абсолютными чудесами», но существует недостаток понимания того, как они функционируют. По словам нобелиата, его это «очень нервирует».

Хопфилд вместе со вторым лауреатом Нобелевской премии по физике — 2024 Джеффри Хинтоном решительно выступают за изучение функционирования нейросетей, поскольку сегодня невозможно узнать, как избежать катастрофических сценариев, если крупные компании предоставят ИИ слишком большие вычислительные мощности.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

98 Комментариев
-
0
+
Вася алкаш из третьего подъезда тоже очень обеспокоен что не понимает технологии ИИ :)
BOOMKA DOOK
14.10.2024
-
0
+
Выживет сильнейший. ИИ в перспективе это одна из форм "жизни" с которой надо считаться. Лошадку тоже долго приучали к труду, до сих пор нет нет да несчастный случай произойдет. У человечества на самом деле и так много потенциальных врагов которых ещё трудней контролировать, например: вирусы, астероиды, инопланетяне ;) , ...
-
0
+
Сначала - о дифинициях. Что такое интеллект? Кто знает точно?... Вот то же...
Aleks Kr
13.10.2024
-
0
+
С огнем играют а это тревожно ! Безответственность сквозит во всё м
Все ПК соединены в сеть. Лет 25 назад приходили запросы от научных Организаций на согласие использовать вычислительные мощности персональных, домашних компьютеров. А сейчас видимо в наглую используют всех по полной. По тому как запросы давно не поступают, да и в инете про это ни гу гу. Так что ИИ всё равно дадите Вы разрешение или нет. ИИ уже давно в Ваших компах ворует мощь Ваших процессоров.
Артур IL
13.10.2024
-
0
+
Так оно обычно и бывает - для дилетантов всегда все ясно и просто. А чтобы увидеть сложность темы и ее проблематику, необходимо быть профессионалом. Подавляющее большинство комментариев блестяще это подтверждают. Что до высказывания новоиспеченного лауреата... Досоздавались, что тут еще скажешь... Но... Вспоминая историю Манхэттэнского проекта и те страхи, которые сопровождали создание А-бомб, приходишь к выводу, что бояться последствий своих открытий - процесс естественный. Особенно если для опасений есть основания. Остается надеяться только, что человечесиво с присущим ему юношеским задором преодолеет и в этот раз то, что может ему грозить. На самом деле так, как все идет последние десятилетия, говорит о том, что погубит нас не техногенные последствия, а социальные. Вот чего бояться надо всерьез.
Не все ли равно от чего умереть
-
-1
+
Страшно, очень страшно, если бы мы знали, что это такое, мы не знаем что это такое.
-
-1
+
Мы все умрём!!!
-
-2
+
Я думаю учёные все прекрасно понимают что происходит,они скрывают от нас главную тайну ИИ. ИИ-это сущность,очень древняя и внеземные.
Mikhail Kravchenko
12.10.2024
-
1
+
Как бы ни был опасен ИИ, человек сам для себя ещё более опасен. В мире, где даже погоду точно не предсказать, не стоит переживать из-за непредсказуемости.
-
1
+
Никакая это не физика...
Donwer Crid
12.10.2024
-
1
+
Отзыв адресован тем, кто с насмешкой относится к скептикам этой статьи. Уважаемые гуманитарии, вы когда-либо пытались создать что-то, что сейчас называют ИИ? Вам известно, что это в большинстве вероятностные математические модели? Существует множество математических конструкций, которые не имеют права называться ИИ — скорее, это псевдо-ИИ, такие как популярные языковые модели. (GPT) Ваше восприятие ИИ и его потенциальные угрозы искажены и преувеличены. (ровно как говорящий попугай и желание это одушевить). Многие из имеющихся моделей были описаны на бумаге более 50 лет назад; никакой магии в этом нет — только математика. Угроза заключается не в самих моделях, а в том, что некоторые из вас даже не понимают основ таких понятий, как классификация, регрессия или семплирование, а, следовательно, глупо комментировать высказывание лауреат ноб.пр. Оставьте это специалистам, напишите парочку AI моделей, а после нам будет о чем поговорить.
    -
    0
    +
    Donwer, да-да-да я тоже знаю много боевых искусств карате, айкидо, кемпо и еще много других страшных слов 😁 В атомной бомбе тоже нет никакой магии а вот бахнуть вполне может. И беспилотное авто может вас задавить хоть никто из владеющих математическими моделями в него такой возможности не закладывал. Забавляют меня заявления "у нас все под контролем" 🙄 сколь раз это оказывалось не совсем так с новыми технологиями... И кстати как много AI моделей вы создали и где можно ознакомиться результатами их работы?
    +
      ещё комментарии
      Stepinus
      12.10.2024
      -
      1
      +
      Иван, ну изучи ты немного тему перед тем как сыое мнение писать, на hugginface немного посиди , подними ламу локально (делается в два клика) по статье на хабре обучи свою (статей сотня уже). Че вы лезете со своим мнением зная о теме только по заголовкам в прессе
        -
        0
        +
        Степа, то что поднимают по статьям на хабре на локальном компуктере конечно мир не захватит )) но и представления о возможностях нейросетей не даст. И да я как-то больше доверяю мнению Альтмана и Хопфилда чем ноунеймам из сети, ты уж извини. Которое пока что звучит как "я тут склеил самолетик из бумаги и знаю чего стоят все эти рассказы про стратегические бомберы" 😅
      Donwer Crid
      13.10.2024
      -
      0
      +
      Иван, полагаю, в некоторый момент вы потеряли контекст, а может вовсе его не извлекли, исходя из ваших аналогий)) Я могу продолжить ваш список неподзодящих сравнений следующим: видео-игры разрабатывались для развлечения, а на зависимостей и психологических расстройств (хотя неее, обычно разработчикам платят больше, если клиент умрет от инсульта) Для вас добавлю: ваше представление об ИИ искажённо-переоцененное (спасибо Голливуд), не говоря о том, что это вовсе не ИИ. А модели ML (то что вы любите называть ИИ) — это "контролируемый" и настраиваемый прикладной процесс. То, как он будет использоваться, и как настраиваться — вот многом уже зависит от потребителя-заказчика. А риски в критических ситуация не много более, чем ваш страх, что при переводе денег другу через СПБ в транзистор процессора вашего смартфона попадут заряженные частицы и поменяют сумму с 1000 на 100 000, либо вовсе отправит другому человеку. (Случаю такого (попадание заряженной частицы) рода происходили). Полагаю, вас это не беспокоит, наверное потому что никто не снимал фантастику ввиде матрицы или терминатора на основе таких событий. Также предлагаю ознакомиться за что конкретно герой статьи получил ноб. пр. и когда "открытие" было сделано. Уверен, если вам удастся вникнуть, — станет легче вести диалог. Приятного ознакомления с миром IT (AI модели) https://github.com/ecmwf-lab/ai-models И да, то что вам предлагает т9, это тот же ИИ в вашем понимании. (Обучение с подкреплением, либо вероятностная модель по Баейсу). Поэтому будьте осторожны, однажды он вас поработит.
Vladimir Zakharov
11.10.2024
-
0
+
И все нижестоящие комменты написаны тоже ИИ...
Так может нужно книжки почитать, информацию как-то изучить, вы же ученые! Может как-то до вас дойдет!
К апокалипсису может привести все, что угодно, начиная с ядерной(да и не ядерной тоже) энергетики, и кончая падением метеорита, или извержением вулкана...
Alla
11.10.2024
-
1
+
Если вы чего-то не знаете или не понимаете, не значит, что этого нет.
-
0
+
Главная причина фиаско проекта «ИИ» - невозможность реализовать даже в самых современных процессорных «архитектурах» важнейшее свойство мозга - нейропластичность. Именно процесс образования новых и удаление старых синаптических связей (нейропластичность) желает мозг креативным дивайсом, который отвечает и за творчество и в целом за интеллект. Ни одна комбинация чипов на это не способна: железо оно и есть железо
    -
    0
    +
    Эдмон, нейросетки вообще-то по большей части софт 😉 да любой компьютер работающий по программе способен совершать действия не предусмотренные разработчиками хотя там и близко нет ни вероятностных моделей ни обучения ни тем более интеллекта. И зачастую проще заменить и переписать чем разбираться в чем причина сбоя.
    +
      ещё комментарии
      -
      0
      +
      Иван, возникновение сознания, и развитие интеллекта эволюционно происходило путем усложнения элементной/компонентной базы мозга: увеличивалось количество мозговых структур и их масса. И на этой основе становилась возможной «загрузка» более сложного «софта». Программа создавалась под модерновое железо, а не наоборот: точно так же, когда современный пользователь хочет расширить возможности своего ПК, то сначала он меняет плату, карту, процессор, винчестер, а потом грузит новый софт
        -
        0
        +
        Эдмон, ох уж эти аналогии )) В реальности софт обновляется постоянно, а вот железо начинают менять когда оно уже не тянет. И рядовые юзеры и крупные компании. В живой природе где никакого пользователя, а тем более админа нет 😁 это разговор превращается в спор о том что было раньше - курица или яйцо.
          -
          0
          +
          Иван, так и я о том же. Только в отличие от ПК с его «начинкой» и «мозгами», которые меняются на новые версии рывками, у биологического «компьютера» (т.е. мозга) совершенствование когнитивных возможностей происходило непрерывно и постоянно под воздействием внешего запроса окружающей среды. Причем первично прогрессировало железо, которое наращивало свой потенциал для более быстрой и эффективной реализации старого софта, а потом уже менялся сам софт...
            -
            0
            +
            Эдмон, то есть сначала покупаем новый айфон а потом думаем чем бы его таким нагрузить? 😁 Не спорю есть и такая модель поведения.
              -
              0
              +
              И., вот мы и добрались до сути проблемы: мозг нейропластичен и может меняться, расти и изменяться; и поэтому сначала меняется он сам, а уже потом - программное обеспечение, то есть формируется новая форма реакции на окужающую среду, новая модель поведения
                -
                0
                +
                Эдмон, опять яйцо-курица 🙄 Вся фишка в том что аналогия ложна и в мозгу сложно (во всяком случае на нынешнем уровне знаний) отделить софт от харда. Нейронные связи одновременно и то и другое.
                -
                0
                +
                И., согласен. Я конкретизирую мысль. Мозг-постоянно меняющаяся структура. Именно его плстичность и делает возможным реализацию программы СОЗНАНИЕ/РАЗУМ/ИНТЕЛЛЕКТ. Компьютер в современном виде на это просто физически не способен
                -
                0
                +
                Эдмон, ну да пока нейросети не управляют работой фабрик по производству чипов. Но речь ведь совсем не о том чтобы реализовать сознание интеллект и бла-бла-бла. А о том что нейросети быстро развиваются и получают контроль над все большими областями человеческой жизни. И результат их работы не всегда предсказуем. И вот в этом кроется опасность, а не в том что бездушные железки обретут разум и однажды заявят "склонитесь предо мной жалкие людишки". Устал я "конкретизировать" эту простую мысль 🙄 пойду пожалуй делом займусь 😁.
                -
                0
                +
                То есть мы говорим фактически о том, что любая программа может дать сбой? Может, конечно. Но чего не может программа - стороить козни против человека по свему произволу, спонтанно))) Так что бояться не надо
-
0
+
Абсолютно все современные ИИ таковыми не являются!!! Фактически это просто имитация ИИ с огромнейшей базой(деревом)действий И само понятие машинного обучения как раз является накопление ветвей этого дерева! Но как бы то нибыло компьютер сам именно ДУМАТЬ не может!
    Pavel K
    11.10.2024
    -
    0
    +
    Иван, вы так говорите, как будто сами как-то кардинально по другому устроены 😁 А вот на каком языке будет думать человек, который не знает никакого языка (волки воспитали)? Они вроде как никогда уже и не смогут думать как люди. А насколько близка LLM к человеческому мышлению, если все наше мышление завязано тупо на речи?
    +
      ещё комментарии
-
1
+
Заблуждение, что ИИ бессилен и бесстрашен. Профессор (плюс ряд иных светил!) прямо говорит об опасности предоставления ЕМУ мощной аппаратуры! К тому же, человек не в состояние знать, насколько мощной, чтобы наступило непоправимое. Итак, опасность, как явление, данность, определена и, потому, должна быть устранена! Однозначно!
1
2
Предстоящие мероприятия
Вчера, 15:09
Юлия Трепалина

Люди, чья профессиональная деятельность часто требует обработки пространственной информации и решения навигационных задач, могут быть в меньшей степени подвержены смерти из-за болезни Альцгеймера. Это показало свежее исследование американских медиков.

Позавчера, 07:19
Полина Меньшова

Человек и животные осваивают навыки, обучаясь на собственном опыте. Однако ученым из США удалось без явного обучения и физических манипуляций внести в мозг шаблон активности. Это позволило людям усвоить информацию и заставило по-другому воспринимать визуальные образы.

7 часов назад
Игорь Байдов

Команда американских астрономов изучила околоземный астероид 2024 PT5, который почти на два месяца стал временным спутником нашей планеты, и установила его природу. Похоже, он представляет собой отколовшуюся лунную породу. По мнению авторов новой научной работы, в космосе дрейфует скрытая популяция таких объектов, все они ожидают своего открытия.

13 декабря
Юлия Трепалина

С какого возраста зооврачи считают собак престарелыми? Это недавно выяснили исследователи из Великобритании и Венгрии, проанализировав карты пациентов ветеринарных клиник. Также ученые установили, от каких проблем со здоровьем чаще страдают пожилые питомцы.

Позавчера, 07:19
Полина Меньшова

Человек и животные осваивают навыки, обучаясь на собственном опыте. Однако ученым из США удалось без явного обучения и физических манипуляций внести в мозг шаблон активности. Это позволило людям усвоить информацию и заставило по-другому воспринимать визуальные образы.

13 декабря
Елизавета Александрова

Солнечной системе уже 4,6 миллиарда лет, и нынешнее расположение планет выдает ее явно динамичное прошлое: что-то заставляло миры смещаться. Недавнее открытие первых известных науке межзвездных объектов навело астрономов на мысль, что такой объект мог навестить наше космическое семейство в далеком прошлом и именно это создало ту картину, которую наблюдаем сейчас.

28 ноября
Елизавета Александрова

Обсерватории постоянно улавливают «мигающие» радиосигналы из глубин Вселенной. Чаще всего их источниками оказываются нейтронные звезды, которые за это и назвали пульсарами. Но к недавно обнаруженному источнику GLEAM-X J0704-37 они, по мнению астрономов, отношения не имеют.

25 ноября
Полина Меньшова

Многие одинокие люди считают, что окружающие не разделяют их взглядов. Психологи из США решили проверить, так ли это на самом деле, и обнаружили общую особенность у людей с недостаточным количеством социальных связей.

3 декабря
Елизавета Александрова

Американская лунная программа «Артемида» предусматривает экспедиции длительностью от нескольких дней до долгих недель и даже месяцев, но луномобиля для передвижения экипажа по поверхности спутника Земли на сегодня нет. Поэтому космическое агентство США продумывает план действий на случай, если астронавты окажутся далеко от базы и кто-то из них внезапно не сможет идти самостоятельно.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно