• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Лауреат Нобелевской премии по физике заявил, что не до конца понимает технологию ИИ, которую он помог создать

Американский ученый Джон Хопфилд, получивший Нобелевскую премию по физике 2024 года за новаторскую работу в области искусственного интеллекта, заявил, что считает последние достижения в этой сфере «крайне тревожными», и предупредил о возможной катастрофе.

Джон Хопфилд / © Getty Images
Джон Хопфилд / © Getty Images

Почетный профессор Принстона Джон Хопфилд во время выступления отметил, что современные системы ИИ кажутся «абсолютными чудесами», но существует недостаток понимания того, как они функционируют. По словам нобелиата, его это «очень нервирует».

Хопфилд вместе со вторым лауреатом Нобелевской премии по физике — 2024 Джеффри Хинтоном решительно выступают за изучение функционирования нейросетей, поскольку сегодня невозможно узнать, как избежать катастрофических сценариев, если крупные компании предоставят ИИ слишком большие вычислительные мощности.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

93 Комментариев
-
0
+
Вася алкаш из третьего подъезда тоже очень обеспокоен что не понимает технологии ИИ :)
BOOMKA DOOK
14.10.2024
-
0
+
Выживет сильнейший. ИИ в перспективе это одна из форм "жизни" с которой надо считаться. Лошадку тоже долго приучали к труду, до сих пор нет нет да несчастный случай произойдет. У человечества на самом деле и так много потенциальных врагов которых ещё трудней контролировать, например: вирусы, астероиды, инопланетяне ;) , ...
Aleks Kr
13.10.2024
-
0
+
С огнем играют а это тревожно ! Безответственность сквозит во всё м
Все ПК соединены в сеть. Лет 25 назад приходили запросы от научных Организаций на согласие использовать вычислительные мощности персональных, домашних компьютеров. А сейчас видимо в наглую используют всех по полной. По тому как запросы давно не поступают, да и в инете про это ни гу гу. Так что ИИ всё равно дадите Вы разрешение или нет. ИИ уже давно в Ваших компах ворует мощь Ваших процессоров.
Артур IL
13.10.2024
-
0
+
Так оно обычно и бывает - для дилетантов всегда все ясно и просто. А чтобы увидеть сложность темы и ее проблематику, необходимо быть профессионалом. Подавляющее большинство комментариев блестяще это подтверждают. Что до высказывания новоиспеченного лауреата... Досоздавались, что тут еще скажешь... Но... Вспоминая историю Манхэттэнского проекта и те страхи, которые сопровождали создание А-бомб, приходишь к выводу, что бояться последствий своих открытий - процесс естественный. Особенно если для опасений есть основания. Остается надеяться только, что человечесиво с присущим ему юношеским задором преодолеет и в этот раз то, что может ему грозить. На самом деле так, как все идет последние десятилетия, говорит о том, что погубит нас не техногенные последствия, а социальные. Вот чего бояться надо всерьез.
Не все ли равно от чего умереть
-
-1
+
Страшно, очень страшно, если бы мы знали, что это такое, мы не знаем что это такое.
-
-1
+
Мы все умрём!!!
-
-2
+
Я думаю учёные все прекрасно понимают что происходит,они скрывают от нас главную тайну ИИ. ИИ-это сущность,очень древняя и внеземные.
Mikhail Kravchenko
12.10.2024
-
1
+
Как бы ни был опасен ИИ, человек сам для себя ещё более опасен. В мире, где даже погоду точно не предсказать, не стоит переживать из-за непредсказуемости.
-
1
+
Никакая это не физика...
Donwer Crid
12.10.2024
-
1
+
Отзыв адресован тем, кто с насмешкой относится к скептикам этой статьи. Уважаемые гуманитарии, вы когда-либо пытались создать что-то, что сейчас называют ИИ? Вам известно, что это в большинстве вероятностные математические модели? Существует множество математических конструкций, которые не имеют права называться ИИ — скорее, это псевдо-ИИ, такие как популярные языковые модели. (GPT) Ваше восприятие ИИ и его потенциальные угрозы искажены и преувеличены. (ровно как говорящий попугай и желание это одушевить). Многие из имеющихся моделей были описаны на бумаге более 50 лет назад; никакой магии в этом нет — только математика. Угроза заключается не в самих моделях, а в том, что некоторые из вас даже не понимают основ таких понятий, как классификация, регрессия или семплирование, а, следовательно, глупо комментировать высказывание лауреат ноб.пр. Оставьте это специалистам, напишите парочку AI моделей, а после нам будет о чем поговорить.
    -
    0
    +
    Donwer, да-да-да я тоже знаю много боевых искусств карате, айкидо, кемпо и еще много других страшных слов 😁 В атомной бомбе тоже нет никакой магии а вот бахнуть вполне может. И беспилотное авто может вас задавить хоть никто из владеющих математическими моделями в него такой возможности не закладывал. Забавляют меня заявления "у нас все под контролем" 🙄 сколь раз это оказывалось не совсем так с новыми технологиями... И кстати как много AI моделей вы создали и где можно ознакомиться результатами их работы?
    +
      ещё комментарии
      Stepinus
      12.10.2024
      -
      1
      +
      Иван, ну изучи ты немного тему перед тем как сыое мнение писать, на hugginface немного посиди , подними ламу локально (делается в два клика) по статье на хабре обучи свою (статей сотня уже). Че вы лезете со своим мнением зная о теме только по заголовкам в прессе
        -
        0
        +
        Степа, то что поднимают по статьям на хабре на локальном компуктере конечно мир не захватит )) но и представления о возможностях нейросетей не даст. И да я как-то больше доверяю мнению Альтмана и Хопфилда чем ноунеймам из сети, ты уж извини. Которое пока что звучит как "я тут склеил самолетик из бумаги и знаю чего стоят все эти рассказы про стратегические бомберы" 😅
      Donwer Crid
      13.10.2024
      -
      0
      +
      Иван, полагаю, в некоторый момент вы потеряли контекст, а может вовсе его не извлекли, исходя из ваших аналогий)) Я могу продолжить ваш список неподзодящих сравнений следующим: видео-игры разрабатывались для развлечения, а на зависимостей и психологических расстройств (хотя неее, обычно разработчикам платят больше, если клиент умрет от инсульта) Для вас добавлю: ваше представление об ИИ искажённо-переоцененное (спасибо Голливуд), не говоря о том, что это вовсе не ИИ. А модели ML (то что вы любите называть ИИ) — это "контролируемый" и настраиваемый прикладной процесс. То, как он будет использоваться, и как настраиваться — вот многом уже зависит от потребителя-заказчика. А риски в критических ситуация не много более, чем ваш страх, что при переводе денег другу через СПБ в транзистор процессора вашего смартфона попадут заряженные частицы и поменяют сумму с 1000 на 100 000, либо вовсе отправит другому человеку. (Случаю такого (попадание заряженной частицы) рода происходили). Полагаю, вас это не беспокоит, наверное потому что никто не снимал фантастику ввиде матрицы или терминатора на основе таких событий. Также предлагаю ознакомиться за что конкретно герой статьи получил ноб. пр. и когда "открытие" было сделано. Уверен, если вам удастся вникнуть, — станет легче вести диалог. Приятного ознакомления с миром IT (AI модели) https://github.com/ecmwf-lab/ai-models И да, то что вам предлагает т9, это тот же ИИ в вашем понимании. (Обучение с подкреплением, либо вероятностная модель по Баейсу). Поэтому будьте осторожны, однажды он вас поработит.
Vladimir Zakharov
11.10.2024
-
0
+
И все нижестоящие комменты написаны тоже ИИ...
Так может нужно книжки почитать, информацию как-то изучить, вы же ученые! Может как-то до вас дойдет!
К апокалипсису может привести все, что угодно, начиная с ядерной(да и не ядерной тоже) энергетики, и кончая падением метеорита, или извержением вулкана...
Alla
11.10.2024
-
1
+
Если вы чего-то не знаете или не понимаете, не значит, что этого нет.
-
0
+
Комментарий удален пользователем или модератором...
    -
    0
    +
    Эдмон, нейросетки вообще-то по большей части софт 😉 да любой компьютер работающий по программе способен совершать действия не предусмотренные разработчиками хотя там и близко нет ни вероятностных моделей ни обучения ни тем более интеллекта. И зачастую проще заменить и переписать чем разбираться в чем причина сбоя.
    +
      ещё комментарии
      -
      0
      +
      Комментарий удален пользователем или модератором...
        -
        0
        +
        Эдмон, ох уж эти аналогии )) В реальности софт обновляется постоянно, а вот железо начинают менять когда оно уже не тянет. И рядовые юзеры и крупные компании. В живой природе где никакого пользователя, а тем более админа нет 😁 это разговор превращается в спор о том что было раньше - курица или яйцо.
          -
          0
          +
          Комментарий удален пользователем или модератором...
            -
            0
            +
            Эдмон, то есть сначала покупаем новый айфон а потом думаем чем бы его таким нагрузить? 😁 Не спорю есть и такая модель поведения.
              -
              0
              +
              Комментарий удален пользователем или модератором...
                -
                0
                +
                Эдмон, опять яйцо-курица 🙄 Вся фишка в том что аналогия ложна и в мозгу сложно (во всяком случае на нынешнем уровне знаний) отделить софт от харда. Нейронные связи одновременно и то и другое.
                -
                0
                +
                Комментарий удален пользователем или модератором...
                -
                0
                +
                Эдмон, ну да пока нейросети не управляют работой фабрик по производству чипов. Но речь ведь совсем не о том чтобы реализовать сознание интеллект и бла-бла-бла. А о том что нейросети быстро развиваются и получают контроль над все большими областями человеческой жизни. И результат их работы не всегда предсказуем. И вот в этом кроется опасность, а не в том что бездушные железки обретут разум и однажды заявят "склонитесь предо мной жалкие людишки". Устал я "конкретизировать" эту простую мысль 🙄 пойду пожалуй делом займусь 😁.
-
0
+
Абсолютно все современные ИИ таковыми не являются!!! Фактически это просто имитация ИИ с огромнейшей базой(деревом)действий И само понятие машинного обучения как раз является накопление ветвей этого дерева! Но как бы то нибыло компьютер сам именно ДУМАТЬ не может!
    Pavel K
    11.10.2024
    -
    0
    +
    Иван, вы так говорите, как будто сами как-то кардинально по другому устроены 😁 А вот на каком языке будет думать человек, который не знает никакого языка (волки воспитали)? Они вроде как никогда уже и не смогут думать как люди. А насколько близка LLM к человеческому мышлению, если все наше мышление завязано тупо на речи?
    +
      ещё комментарии
-
1
+
Заблуждение, что ИИ бессилен и бесстрашен. Профессор (плюс ряд иных светил!) прямо говорит об опасности предоставления ЕМУ мощной аппаратуры! К тому же, человек не в состояние знать, насколько мощной, чтобы наступило непоправимое. Итак, опасность, как явление, данность, определена и, потому, должна быть устранена! Однозначно!
-
-2
+
Ну как работает современный процессор тоже не понимает ни один конкретный человек. Разработка разбита на кластеры, каждая команда отвечает за свой кластер а общее руководство имеет представления общего же характера, а такого одного человека который бы представлял себе детально работу всего процессора - нет, и быть не может, у человека есть физиологический предел понимания сложных систем ограниченный сотнями элементов, возможно тысячами но миллиарды транзисторов в процессоре осознать не может никто! Так что дядьке - не нервничать, выше головы не прыгнешь! )
1
2
Предстоящие мероприятия
Позавчера, 13:18
Татьяна

Два ключевых события сыграли решающую роль в формировании генетического профиля современных европейских народов. Первое связано с приходом ранних фермеров из Анатолии примерно восемь тысяч лет назад, второе — масштабная миграция на запад носителей ямной степной культуры, начавшаяся пять тысяч лет назад. Однако ученые видят множество отличий от общей картины в разных регионах. В новой работе они проанализировали ДНК древних жителей самого северо-запада Европы и обнаружили более тесную связь с охотниками-собирателями, чем где бы то ни было.

Позавчера, 07:50
Игорь Байдов

В архивах английского поместья столетиями пылилась ничем не примечательная книга учета XVI века. Никто не подозревал, что внутри ее переплета скрываются фрагменты пергамента с историями, которые переписывали монахи семь веков назад. Тайна раскрылась, когда архивариус заметил странные символы на обложке. Так началось расследование, объединившее разных ученых. Исследователи три года пытались прочитать текст, не прикасаясь к нему. Теперь они представили результат своего труда — мир получил два ранее неизвестных эпизода о волшебнике Мерлине, короле Артуре и рыцаре Гавейне.

Позавчера, 17:18
Редакция Naked Science

В 2023 году руководство особой экономической зоны «Алабуга» представило план развития до 2048-го: он предполагает освоение космического пространства.

27 марта
Сколтех

Ученые из Сколтеха исследовали разнообразие молекул, которые могут образовываться из атомов кислорода и углерода. Помимо широко известных углекислого и угарного газов, моделирование обнаружило две сотни экзотических, но относительно стабильных соединений этих двух элементов, многие из которых не были описаны ранее. Этот класс веществ представляет интерес для исследований космоса, аккумуляторных технологий, биохимии и — неожиданным образом — для разработки промышленной взрывчатки и ракетного топлива. Как оказалось, некоторые из открытых веществ при распаде будут высвобождать более 75 процентов взрывной энергии тротила.

Позавчера, 13:18
Татьяна

Два ключевых события сыграли решающую роль в формировании генетического профиля современных европейских народов. Первое связано с приходом ранних фермеров из Анатолии примерно восемь тысяч лет назад, второе — масштабная миграция на запад носителей ямной степной культуры, начавшаяся пять тысяч лет назад. Однако ученые видят множество отличий от общей картины в разных регионах. В новой работе они проанализировали ДНК древних жителей самого северо-запада Европы и обнаружили более тесную связь с охотниками-собирателями, чем где бы то ни было.

Позавчера, 07:50
Игорь Байдов

В архивах английского поместья столетиями пылилась ничем не примечательная книга учета XVI века. Никто не подозревал, что внутри ее переплета скрываются фрагменты пергамента с историями, которые переписывали монахи семь веков назад. Тайна раскрылась, когда архивариус заметил странные символы на обложке. Так началось расследование, объединившее разных ученых. Исследователи три года пытались прочитать текст, не прикасаясь к нему. Теперь они представили результат своего труда — мир получил два ранее неизвестных эпизода о волшебнике Мерлине, короле Артуре и рыцаре Гавейне.

6 марта
Юлия Трепалина

В двойственных, или обратимых, изображениях зритель может увидеть разные объекты в зависимости от того, на каких деталях концентрируется его внимание. Среди известных примеров таких рисунков — иллюзия «кролик-утка», сочетающая двух животных, и обратимая ваза (или ваза Рубина), которая может казаться двумя силуэтами лиц, если сосредоточиться на фоне. В соцсетях и популярных СМИ часто публикуют подобные картинки, утверждая, что по тому, какое изображение человек видит в первую очередь, можно судить о его личностных чертах и особенностях мышления. Двое психологов из Великобритании недавно проверили, так ли это на самом деле.

15 марта
Юлия Трепалина

Когда пара расстается, многие люди продолжают испытывать чувства к своим бывшим. Если разрыв произошел по инициативе другой стороны и отношения длились много лет, полностью «забыть» еще недавно близкого человека может быть непросто. Существует мнение, что и после расставания привязанность к экс-партнерам в какой-то мере сохраняется. Впрочем, согласно другой точке зрения, со временем эта эмоциональная связь ослабевает и утрачивается. Разобраться, как происходит на самом деле и сколько времени может потребоваться на полный эмоциональный разрыв с бывшими возлюбленными, взялись психологи из Иллинойсского университета в Урбане-Шампейне (США).

18 марта
Илья

Масштабный анализ геномов показал, что вид Homo sapiens возник в результате смешения двух древних популяций. Они разделились полтора миллиона лет назад, а затем воссоединились до расселения по миру.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно