• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Лауреат Нобелевской премии по физике заявил, что не до конца понимает технологию ИИ, которую он помог создать

Американский ученый Джон Хопфилд, получивший Нобелевскую премию по физике 2024 года за новаторскую работу в области искусственного интеллекта, заявил, что считает последние достижения в этой сфере «крайне тревожными», и предупредил о возможной катастрофе.

Джон Хопфилд / © Getty Images
Джон Хопфилд / © Getty Images

Почетный профессор Принстона Джон Хопфилд во время выступления отметил, что современные системы ИИ кажутся «абсолютными чудесами», но существует недостаток понимания того, как они функционируют. По словам нобелиата, его это «очень нервирует».

Хопфилд вместе со вторым лауреатом Нобелевской премии по физике — 2024 Джеффри Хинтоном решительно выступают за изучение функционирования нейросетей, поскольку сегодня невозможно узнать, как избежать катастрофических сценариев, если крупные компании предоставят ИИ слишком большие вычислительные мощности.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

67 Комментариев
Егор Зайцев
2 часа назад
-
0
+
Страшно, очень страшно, если бы мы знали, что это такое, мы не знаем что это такое.
Алексей Иванов
3 часа назад
-
0
+
Мы все умрём!!!
Мурсал Алияров
10 часов назад
-
0
+
Я думаю учёные все прекрасно понимают что происходит,они скрывают от нас главную тайну ИИ. ИИ-это сущность,очень древняя и внеземные.
Mikhail Kravchenko
12 часов назад
-
0
+
Как бы ни был опасен ИИ, человек сам для себя ещё более опасен. В мире, где даже погоду точно не предсказать, не стоит переживать из-за непредсказуемости.
Игорь Филатов
13 часов назад
-
0
+
Никакая это не физика...
Donwer Crid
16 часов назад
-
1
+
Отзыв адресован тем, кто с насмешкой относится к скептикам этой статьи. Уважаемые гуманитарии, вы когда-либо пытались создать что-то, что сейчас называют ИИ? Вам известно, что это в большинстве вероятностные математические модели? Существует множество математических конструкций, которые не имеют права называться ИИ — скорее, это псевдо-ИИ, такие как популярные языковые модели. (GPT) Ваше восприятие ИИ и его потенциальные угрозы искажены и преувеличены. (ровно как говорящий попугай и желание это одушевить). Многие из имеющихся моделей были описаны на бумаге более 50 лет назад; никакой магии в этом нет — только математика. Угроза заключается не в самих моделях, а в том, что некоторые из вас даже не понимают основ таких понятий, как классификация, регрессия или семплирование, а, следовательно, глупо комментировать высказывание лауреат ноб.пр. Оставьте это специалистам, напишите парочку AI моделей, а после нам будет о чем поговорить.
    Иван Колупаев
    1 час назад
    -
    0
    +
    Donwer, да-да-да я тоже знаю много боевых искусств карате, айкидо, кемпо и еще много других страшных слов 😁 В атомной бомбе тоже нет никакой магии а вот бахнуть вполне может. И беспилотное авто может вас задавить хоть никто из владеющих математическими моделями в него такой возможности не закладывал. Забавляют меня заявления "у нас все под контролем" 🙄 сколь раз это оказывалось не совсем так с новыми технологиями... И кстати как много AI моделей вы создали и где можно ознакомиться результатами их работы?
    +
      ещё комментарии
      Stepinus
      11 минут назад
      -
      0
      +
      Иван, ну изучи ты немного тему перед тем как сыое мнение писать, на hugginface немного посиди , подними ламу локально (делается в два клика) по статье на хабре обучи свою (статей сотня уже). Че вы лезете со своим мнением зная о теме только по заголовкам в прессе
Vladimir Zakharov
23 часа назад
-
0
+
И все нижестоящие комменты написаны тоже ИИ...
-
0
+
Так может нужно книжки почитать, информацию как-то изучить, вы же ученые! Может как-то до вас дойдет!
Александр Войсет
24 часа назад
-
1
+
К апокалипсису может привести все, что угодно, начиная с ядерной(да и не ядерной тоже) энергетики, и кончая падением метеорита, или извержением вулкана...
Alla
24 часа назад
-
1
+
Если вы чего-то не знаете или не понимаете, не значит, что этого нет.
Эдмон Дантес
1 день назад
-
0
+
Главная причина фиаско проекта «ИИ» - невозможность реализовать даже в самых современных процессорных «архитектурах» важнейшее свойство мозга - нейропластичность. Именно процесс образования новых и удаление старых синаптических связей (нейропластичность) желает мозг креативным дивайсом, который отвечает и за творчество и в целом за интеллект. Ни одна комбинация чипов на это не способна: железо оно и есть железо
    Иван Колупаев
    58 минут назад
    -
    0
    +
    Эдмон, нейросетки вообще-то по большей части софт 😉 да любой компьютер работающий по программе способен совершать действия не предусмотренные разработчиками хотя там и близко нет ни вероятностных моделей ни обучения ни тем более интеллекта. И зачастую проще заменить и переписать чем разбираться в чем причина сбоя.
Иван Бородин
1 день назад
-
0
+
Абсолютно все современные ИИ таковыми не являются!!! Фактически это просто имитация ИИ с огромнейшей базой(деревом)действий И само понятие машинного обучения как раз является накопление ветвей этого дерева! Но как бы то нибыло компьютер сам именно ДУМАТЬ не может!
    Pavel K
    1 день назад
    -
    0
    +
    Иван, вы так говорите, как будто сами как-то кардинально по другому устроены 😁 А вот на каком языке будет думать человек, который не знает никакого языка (волки воспитали)? Они вроде как никогда уже и не смогут думать как люди. А насколько близка LLM к человеческому мышлению, если все наше мышление завязано тупо на речи?
    +
      ещё комментарии
Aleksandr Aleksandr Gore
1 день назад
-
1
+
Заблуждение, что ИИ бессилен и бесстрашен. Профессор (плюс ряд иных светил!) прямо говорит об опасности предоставления ЕМУ мощной аппаратуры! К тому же, человек не в состояние знать, насколько мощной, чтобы наступило непоправимое. Итак, опасность, как явление, данность, определена и, потому, должна быть устранена! Однозначно!
Иван Кочетков
1 день назад
-
1
+
Ну как работает современный процессор тоже не понимает ни один конкретный человек. Разработка разбита на кластеры, каждая команда отвечает за свой кластер а общее руководство имеет представления общего же характера, а такого одного человека который бы представлял себе детально работу всего процессора - нет, и быть не может, у человека есть физиологический предел понимания сложных систем ограниченный сотнями элементов, возможно тысячами но миллиарды транзисторов в процессоре осознать не может никто! Так что дядьке - не нервничать, выше головы не прыгнешь! )
Эдмон Дантес
1 день назад
-
2
+
Предлагаю всем успокоится: никакого ИИ нет. Есть программы по обработке и систематизации больших баз данных. Они, эти программы, действуют по алгоритмам, заложенных в них и придуманых человеком. До создания искуственного мозга, хотя бы отдаленно напоминающего человеческий - как до Луны пешком))))
    Вадим Косарев
    1 день назад
    -
    0
    +
    Эдмон, а ты прям умный что сразу понял , а ученый который создал не знает ?
    +
      ещё комментарии
      Alexander Prosyannikov
      1 день назад
      -
      0
      +
      Вадим, так он же ДИВАННЫЙ ЛАУРЕАТ а не какой-то там профессор! 🤣🤣
      Эдмон Дантес
      1 день назад
      -
      0
      +
      Вадим, дорогой... Есть такое понятие - МИФ. Это некое своебразное трактование явлений и закономерностей, свойственное человеку вообще: просто так усторен человеческий мыслительный аппарат. Есть мифы религиозные, есть сказочные, а есть - научные. Стволовыеш клетки, клонированные животные, холодный термоядерный синтез, вечная жизнь... И искусственный интеллект. Интеллект, который обеспечивает творческий процесс, человек создать не может. Ничего самостоятельного компьютерная программа придумать не может. А это значит, что об ИИ говорить не приходится
      Maxim Leo
      23 часа назад
      -
      0
      +
      Вадим, Текущие нейросети, основанные на языковых моделях, лишь предсказывают слова в ответе, опираясь на данные, которым ее обучили. Для этого не надо быть умным. Это уже многие разрабы нейросетей поясняли. А если ты настолько не веришь, спроси у нейросети про это. Поэтому настоящего ИИ пока нет.
    Rusya Alphacino
    1 день назад
    -
    1
    +
    Эдмон, а животные, к коим относится человек, на каких-то других принципах работают? У нас есть множество версий биологических нейронок, обучающихся миллионы и миллиарды лет. Можно сказать, что уровень насекомых уже пройден (годов с 80-ых?). Да и не только сфера ИИ развивается, ещё и трансгуманизм, в результате которого одни люди станут сверхчеловеками, а остальные на его фоне будут как обезьяны
    +
      ещё комментарии
      Эдмон Дантес
      1 день назад
      -
      0
      +
      Rusya, ты сначала определись - животное ты или человек. Поговорим после, но именно как люди)))
      Никита Семенюк
      23 часа назад
      -
      0
      +
      Rusya, хах, лол, я пожалуй, воспринимаю данную "почву для ума" призмой философских и унигуманистических течений, подкреплённой здравым смыслом и не смыслю в "нейрохирургии" и "мат анализе", но очевидно будет, что так называемые ИИ - лишь просто "инструмент" (что подметил и другой пользователь ниже), они не имеют осознанности и не могут быть субъектом, следовательно и иметь собственного "я" с вытекающим мнением и выбором действий, это лишь очень сложная аналитическая система, но при этом целый океан возможностей для "настоящего субъекта" и стоит беспокоиться алчных намерений, ибо технология может использоваться во благо, так и в корыстных целях, собственно если нейросетка создаст подробный и действенный план уничтожения человечества по просьбе какого-то психа, то вина полностью лежит на нём и на тех людях, которые не предусмотрели данный исход при проектировке, но уже на сегодняшний момент многие разрабы беспокоятся об этом. Ах да, и до сих пор исследуют нейроструктуру и физиологию грызунов и насекомых, и поверь, даже самые умные люди мира сего не знаю всей картины и не скрывают этого, вот как-то так ;)
    Иван Колупаев
    1 день назад
    -
    2
    +
    Эдмон, и давно вам дали Нобелевку за столь "ценный" вывод? 😏 Ученые заложившие основы современных нейросетей считают иначе, что повод для беспокойства есть, но куда им до вас конечно. А насчет человекомозгодрочеров которые уверены что мозг неподражаем непознаваем и прекрасен... Вот тот же Хопфилд считает что человечество создало интеллект _лучше_ человеческого и возможно нам очень скоро придется уступить ему место на пути эволюции. Сделать копию человеческого мозга трудно, пока лишь на мухах исследования проводятся. Но кто вам сказал что нельзя сделать самолет вместо птицы, автомобиль вместо лошади и т.д. Да человек всю свою историю создает, то чего нет в природе. И оно летает дальше, ездит быстрее и бьет сильнее. Но до последнего времени все эти штуки человеком и управлялись. С нейросетями не так. Ученые не совсем понимают как это работает а значит и не вполне способны этим управлять. Об этом и сказано в статье пусть очень коротко. А "компьютер работает по алгоритмам" это старая дуделка уже не вполне применимая к самообучающимся системам. Образно тот же ученый сравнил человечество с маленьким мальчиком что придет к взрослому дяде и скажет мне не нравится как ты себя ведешь вот я написал правила которым ты должен следовать. Положим такая ситуация еще не наступила, и человечество не утратило контроль над своим творением, но нейросети развиваются очень быстро и тормозить их развитие никто не собирается.
    +
      ещё комментарии
Кристина Хачатрян
1 день назад
-
7
+
Стоит прочитать англоязычную статью, на которую ссылается Алена — в ней болеё развернуто изложено, в чем суть опасений. Вкратце, систему подобной сложности, величины и мощности на выходе сложно предсказать, а значит, контролировать. Всё, что не поддаётся контролю и прогнозированию, представляет угрозу там, где среда должна быть контролируемой — в науке, медицине, административной деятельности, etc. Потенциал для неэтичного использования продуктов ИИ "в быту" огромен уже сейчас. В общем, пока в комментариях сравнивают ИИ с собакой, учёные слегка обеспокоены)
    Nick Melnick
    1 день назад
    -
    0
    +
    Кристина, думаю, что ИИ станет опасным когда осознает свое собственное "Я" (эго).
    +
      ещё комментарии
      Na Gone
      1 день назад
      -
      0
      +
      Nick, мне в это трудно вериться. Но честно, я очень хочу, что бы это всё же случилось. Каким бы это не было опасным, меня всё же поражает (в хорошем всмысле) сама идея о возможности ИИ достичь самого настоящего сознания, прямо как у человека! Что ж, буду ждать, пока этот день не наступит :D
      Maxim Leo
      23 часа назад
      -
      0
      +
      Nick, Вот именно, что в этом и суть настоящего ИИ. А нынешние нейросети это не ИИ
      Mikhail Kravchenko
      12 часов назад
      -
      0
      +
      Nick, ИИ изначально и рефлексирует, то есть осознаёт себя, и гипертрофированным эго обладает потому что врёт напропалую вместо того чтобы сказать "не знаю". Просто сфера эгоистических интересов у ИИ слишком не человеческая
SonVos
1 день назад
-
-3
+
ИИ, в некотором смысле, подобен домашней собаке, которую, со временем, люди начинают воспринимать, как человека и забывают, что это стайное животное. А для стайного животного иерархически значимы лишь вожак и сучка вожака, а всех остальных оно считает равными себе и иной раз даже ниже себя. И лишь у очень немногих пород развита социальная составлющая. Поэтому не удивительно, что много случаев, когда мимишная псина вдруг, ни с того, ни с сего отгрызает половину лица какому-то члену семьи.
Ольга Гарифуллина
1 день назад
-
-2
+
Когда наши ученые дорастут до уровня лауреатов этой престижной премии. Американцы, англичане. По химии какие мощные разработки по изучению структуры белка. Печально…
Rishat Sultanov
2 дня назад
-
15
+
Лауреат Нобелевской премии, который придумал ИИ, не до конца понимает как она работает, а вы тут жалкая кучка дилетантов во всем разобрались и сделали выводы один обсурдней другого.
    White_Shadow
    1 день назад
    -
    1
    +
    Rishat, И звание лучшего комментатора месяца присваивается...))
    Иван Колупаев
    1 день назад
    -
    2
    +
    Rishat, в истории есть примеры когда лауреаты нобелевки несли совершеннейшую дичь. Особенно в годах. На что обычно и ссылаются апологеты алгоритмов и неподражаемого мозга 😁 И дай-то бог чтобы проф ошибался, (ему уже за 90) и бездушным машинкам не удалось поставить на коленки своих создателей.
    +
      ещё комментарии
      Alexander Prosyannikov
      1 день назад
      -
      -2
      +
      Иван, примеры дичи в студию! Когда то дичью считали не то что полёты В космос а просто возможность полёта! И перечислять можно долго. Ришат абсолютно точно описал ВАС в своём комменте! Таким как вам с помощью дивана и вики никакие лауреаты нобелевки в подметки не годятся! 😂😂😂 да и когда то я общался с нашим светилом нейрохирургии дядька не верит в Бога или высшую силу верит что душа это нейроны но в конце беседы про мозг он сказал-чем больше я узнаю про мозг -тем меньше его понимаю! Но я думаю у вас таких проблем не будет вы же не какой то там академик с Нобелевской вы же ДИВАННЫЙ МЫСЛИТЕЛЬ! 😀🤣🤣🤣
        Иван Колупаев
        23 часа назад
        -
        2
        +
        Alexander, у вас все там в порядке с логикой? А впрочем зачем я спрашиваю. Два раза капс в коментах это уже показатель. Нобелевку по медицине давали популяризатору и горячему стороннику лоботомии Антониу Монишу, Джон Нэш оказался шизофреником - верил что его преследуют коммунисты в красных галстуках, и как-то заявил, что хочет стать императором Антарктиды, Люк Монтанье (известный в прошлом вирусолог) верил что коронавирус создали в лаборатории а вакцинация большая ошибка. Зря викой-то не пользуетесь со своего недивана 😏
          -
          2
          +
          Иван, Лайнуса Полинга забыли. Этот вообще дважды лауреат, но при этом породил один из самых устойчивых мифов о могуществе витаминов. Заявлял, что витамин C лечит рак. Там такая шиза под конец его жизни полезла, что мама ее горюй...
            Иван Колупаев
            19 часов назад
            -
            0
            +
            Александр, справедливости ради этот "шарлатан" прожил до 94 лет практически вдвое пережив своих родителей (34 и 45 лет) 🙄 Кто знает в чем тут причина может просто очень поверил в свои домыслы.
    Maxim Leo
    23 часа назад
    -
    -2
    +
    Rishat, Один профессор не понимает, а разрабы из OpenAI все понимают, но они видимо бездари, потому что у них нет нобелевки( Даже САМА нейросеть понимает, как она работает и может объяснить. Действительно чудеса.Другое дело, что объем данных огромный и тяжело ее поведение контролировать. Но суть ее работы предельно ясна.
    +
      ещё комментарии
    Максим Насанович
    12 часов назад
    -
    -1
    +
    Rishat, ты хач ебаный. Завали свое петило
alexey al
2 дня назад
-
1
+
Все правильно сказал. Только не ИИ, а нейронки. До ИИ человечеству еще лет 5-10 работать)) И да, нейронки не поддаются адекватному анализу: Имеем набор матриц. Перемножаем их. Получаем некий результат. Здесь нет никакой логики и здравого смысла. Просто тюнинг коэффициентов элементов матриц, подгоняя их под целевой результат... Нервная система живых организмов по той причине и функционирует, что для нее не требуется какого либо "разумного замысла", и уж тем более, знания математики (кстати, нейронки хуже всего справляются... С математическими задачами. Тк там думать надо. Это касается и GPT4, 5, и всех остальных) И неважно, насколько умный человек. Увидев некий набор матриц и графов на миллиарды элементов, он нникогда в жизни не сможет аналитически прийти к выводу, на каких данных обучалась нделатьа, или что умеет делать)
    Дмитрий Глебов
    2 дня назад
    -
    -1
    +
    alexey, почему нет лигики и смысла? я не специалист, но из того что видел, могу сказать нейросети - это результат обработки потока информации - на входе у вас много "пикселей", они содержат в себе не просто белый шум, а какие-то закономерности, далее этот поток просеивают через более узкий, так сказать, проход, где происходит отсеивание незначительных ( с точки зрения правильной работы нейросети ) данных и концентрация на нужных закономерностях и дальше какая-то обработка, видимо для усиления выделенных корреляций. Т.е. готовая нейросеть содержит в себе концентрированную информацию и наверняка эту информацию можно извлечь и изучить. Программы в двоичном коде или на ассемблере тоже тяжело разбирать, но есть соответствующие инструменты, так и тут.
    +
      ещё комментарии
1
2
Предстоящие мероприятия
Позавчера, 07:36
Полина Меньшова

Слонам свойственны развитая мимика, умение сотрудничать и помогать друг другу, а также хорошая память. Ученые из Германии и Франции обнаружили, что эти животные способны узнать сотрудников зоопарка, которые работали с ними больше 10 лет назад.

Позавчера, 13:02
Елизавета Александрова

Ранее семь разных компаний заявили, что смогут забрать с Красной планеты капсулы с образцами, собранными марсоходом Perseverance. Теперь в этом соревновании неожиданно появился новый сильный игрок.

9 часов назад
Юлия Трепалина

В научной литературе немало примеров работ о пользе животных-компаньонов для людей. Однако в новом исследовании о влиянии домашних питомцев на эмоциональное здоровье, поведенческое и когнитивное развитие детей ученые неожиданно сделали не только положительные выводы.

Позавчера, 13:02
Елизавета Александрова

Ранее семь разных компаний заявили, что смогут забрать с Красной планеты капсулы с образцами, собранными марсоходом Perseverance. Теперь в этом соревновании неожиданно появился новый сильный игрок.

9 октября
Елизавета Александрова

Одна из самых первых галактик во Вселенной оказалась совсем не тем, что ученые ожидали увидеть всего через несколько сотен миллионов лет после Большого взрыва.

Позавчера, 07:36
Полина Меньшова

Слонам свойственны развитая мимика, умение сотрудничать и помогать друг другу, а также хорошая память. Ученые из Германии и Франции обнаружили, что эти животные способны узнать сотрудников зоопарка, которые работали с ними больше 10 лет назад.

25 сентября
Татьяна

Марс не всегда был холодным и сухим, как сейчас. Все больше фактов говорит о том, что миллиарды лет назад там текли водные потоки. А значит, была плотная атмосфера, создающая парниковый эффект и поддерживающая воду в жидком состоянии. Примерно 3,5 миллиарда лет назад вода исчезла, газовая оболочка существенно поредела. Почему? Ответ буквально лежит на поверхности, выяснили американские геологи.

17 сентября
Unitsky String Technologies Inc.

Инженеры из Белоруссии разработали альтернативный маршрут для более быстрой, безопасной и доступной перевозки грузов по сравнению с использованием Северного морского пути (СМП). Проект предусматривает организацию высокоскоростных грузопассажирских перевозок, в том числе транзитных, что станет альтернативой другим видам транспорта, в первую очередь авиации, за счет высокой скорости передвижения и уровня комфорта.

16 сентября
Любовь

Исследовательская группа из NASA выяснила, как на поверхности Красной планеты образуются маленькие темные объекты в форме пауков. Новаторский эксперимент, проведенный в лабораторных условиях, позволил воссоздать процессы, которые наблюдаются на поверхности Марса в зимние и весенние месяцы.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно