• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Лауреат Нобелевской премии по физике заявил, что не до конца понимает технологию ИИ, которую он помог создать

Американский ученый Джон Хопфилд, получивший Нобелевскую премию по физике 2024 года за новаторскую работу в области искусственного интеллекта, заявил, что считает последние достижения в этой сфере «крайне тревожными», и предупредил о возможной катастрофе.

Джон Хопфилд / © Getty Images
Джон Хопфилд / © Getty Images

Почетный профессор Принстона Джон Хопфилд во время выступления отметил, что современные системы ИИ кажутся «абсолютными чудесами», но существует недостаток понимания того, как они функционируют. По словам нобелиата, его это «очень нервирует».

Хопфилд вместе со вторым лауреатом Нобелевской премии по физике — 2024 Джеффри Хинтоном решительно выступают за изучение функционирования нейросетей, поскольку сегодня невозможно узнать, как избежать катастрофических сценариев, если крупные компании предоставят ИИ слишком большие вычислительные мощности.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

74 Комментариев
Сергей Винокуров
4 часа назад
-
0
+
Не все ли равно от чего умереть
Егор Зайцев
12 часов назад
-
-1
+
Страшно, очень страшно, если бы мы знали, что это такое, мы не знаем что это такое.
Алексей Иванов
13 часов назад
-
-1
+
Мы все умрём!!!
Мурсал Алияров
21 час назад
-
-1
+
Я думаю учёные все прекрасно понимают что происходит,они скрывают от нас главную тайну ИИ. ИИ-это сущность,очень древняя и внеземные.
Mikhail Kravchenko
23 часа назад
-
1
+
Как бы ни был опасен ИИ, человек сам для себя ещё более опасен. В мире, где даже погоду точно не предсказать, не стоит переживать из-за непредсказуемости.
Игорь Филатов
23 часа назад
-
1
+
Никакая это не физика...
Donwer Crid
1 день назад
-
1
+
Отзыв адресован тем, кто с насмешкой относится к скептикам этой статьи. Уважаемые гуманитарии, вы когда-либо пытались создать что-то, что сейчас называют ИИ? Вам известно, что это в большинстве вероятностные математические модели? Существует множество математических конструкций, которые не имеют права называться ИИ — скорее, это псевдо-ИИ, такие как популярные языковые модели. (GPT) Ваше восприятие ИИ и его потенциальные угрозы искажены и преувеличены. (ровно как говорящий попугай и желание это одушевить). Многие из имеющихся моделей были описаны на бумаге более 50 лет назад; никакой магии в этом нет — только математика. Угроза заключается не в самих моделях, а в том, что некоторые из вас даже не понимают основ таких понятий, как классификация, регрессия или семплирование, а, следовательно, глупо комментировать высказывание лауреат ноб.пр. Оставьте это специалистам, напишите парочку AI моделей, а после нам будет о чем поговорить.
    Иван Колупаев
    12 часов назад
    -
    0
    +
    Donwer, да-да-да я тоже знаю много боевых искусств карате, айкидо, кемпо и еще много других страшных слов 😁 В атомной бомбе тоже нет никакой магии а вот бахнуть вполне может. И беспилотное авто может вас задавить хоть никто из владеющих математическими моделями в него такой возможности не закладывал. Забавляют меня заявления "у нас все под контролем" 🙄 сколь раз это оказывалось не совсем так с новыми технологиями... И кстати как много AI моделей вы создали и где можно ознакомиться результатами их работы?
    +
      ещё комментарии
      Stepinus
      10 часов назад
      -
      1
      +
      Иван, ну изучи ты немного тему перед тем как сыое мнение писать, на hugginface немного посиди , подними ламу локально (делается в два клика) по статье на хабре обучи свою (статей сотня уже). Че вы лезете со своим мнением зная о теме только по заголовкам в прессе
        Иван Колупаев
        8 часов назад
        -
        0
        +
        Степа, то что поднимают по статьям на хабре на локальном компуктере конечно мир не захватит )) но и представления о возможностях нейросетей не даст. И да я как-то больше доверяю мнению Альтмана и Хопфилда чем ноунеймам из сети, ты уж извини. Которое пока что звучит как "я тут склеил самолетик из бумаги и знаю чего стоят все эти рассказы про стратегические бомберы" 😅
      Donwer Crid
      4 часа назад
      -
      0
      +
      Иван, полагаю, в некоторый момент вы потеряли контекст, а может вовсе его не извлекли, исходя из ваших аналогий)) Я могу продолжить ваш список неподзодящих сравнений следующим: видео-игры разрабатывались для развлечения, а на зависимостей и психологических расстройств (хотя неее, обычно разработчикам платят больше, если клиент умрет от инсульта) Для вас добавлю: ваше представление об ИИ искажённо-переоцененное (спасибо Голливуд), не говоря о том, что это вовсе не ИИ. А модели ML (то что вы любите называть ИИ) — это "контролируемый" и настраиваемый прикладной процесс. То, как он будет использоваться, и как настраиваться — вот многом уже зависит от потребителя-заказчика. А риски в критических ситуация не много более, чем ваш страх, что при переводе денег другу через СПБ в транзистор процессора вашего смартфона попадут заряженные частицы и поменяют сумму с 1000 на 100 000, либо вовсе отправит другому человеку. (Случаю такого (попадание заряженной частицы) рода происходили). Полагаю, вас это не беспокоит, наверное потому что никто не снимал фантастику ввиде матрицы или терминатора на основе таких событий. Также предлагаю ознакомиться за что конкретно герой статьи получил ноб. пр. и когда "открытие" было сделано. Уверен, если вам удастся вникнуть, — станет легче вести диалог. Приятного ознакомления с миром IT (AI модели) https://github.com/ecmwf-lab/ai-models И да, то что вам предлагает т9, это тот же ИИ в вашем понимании. (Обучение с подкреплением, либо вероятностная модель по Баейсу). Поэтому будьте осторожны, однажды он вас поработит.
Vladimir Zakharov
1 день назад
-
0
+
И все нижестоящие комменты написаны тоже ИИ...
-
0
+
Так может нужно книжки почитать, информацию как-то изучить, вы же ученые! Может как-то до вас дойдет!
Александр Войсет
1 день назад
-
1
+
К апокалипсису может привести все, что угодно, начиная с ядерной(да и не ядерной тоже) энергетики, и кончая падением метеорита, или извержением вулкана...
Alla
1 день назад
-
1
+
Если вы чего-то не знаете или не понимаете, не значит, что этого нет.
Эдмон Дантес
2 дня назад
-
0
+
Главная причина фиаско проекта «ИИ» - невозможность реализовать даже в самых современных процессорных «архитектурах» важнейшее свойство мозга - нейропластичность. Именно процесс образования новых и удаление старых синаптических связей (нейропластичность) желает мозг креативным дивайсом, который отвечает и за творчество и в целом за интеллект. Ни одна комбинация чипов на это не способна: железо оно и есть железо
    Иван Колупаев
    11 часов назад
    -
    0
    +
    Эдмон, нейросетки вообще-то по большей части софт 😉 да любой компьютер работающий по программе способен совершать действия не предусмотренные разработчиками хотя там и близко нет ни вероятностных моделей ни обучения ни тем более интеллекта. И зачастую проще заменить и переписать чем разбираться в чем причина сбоя.
Иван Бородин
2 дня назад
-
0
+
Абсолютно все современные ИИ таковыми не являются!!! Фактически это просто имитация ИИ с огромнейшей базой(деревом)действий И само понятие машинного обучения как раз является накопление ветвей этого дерева! Но как бы то нибыло компьютер сам именно ДУМАТЬ не может!
    Pavel K
    2 дня назад
    -
    0
    +
    Иван, вы так говорите, как будто сами как-то кардинально по другому устроены 😁 А вот на каком языке будет думать человек, который не знает никакого языка (волки воспитали)? Они вроде как никогда уже и не смогут думать как люди. А насколько близка LLM к человеческому мышлению, если все наше мышление завязано тупо на речи?
    +
      ещё комментарии
Aleksandr Aleksandr Gore
2 дня назад
-
1
+
Заблуждение, что ИИ бессилен и бесстрашен. Профессор (плюс ряд иных светил!) прямо говорит об опасности предоставления ЕМУ мощной аппаратуры! К тому же, человек не в состояние знать, насколько мощной, чтобы наступило непоправимое. Итак, опасность, как явление, данность, определена и, потому, должна быть устранена! Однозначно!
Иван Кочетков
2 дня назад
-
1
+
Ну как работает современный процессор тоже не понимает ни один конкретный человек. Разработка разбита на кластеры, каждая команда отвечает за свой кластер а общее руководство имеет представления общего же характера, а такого одного человека который бы представлял себе детально работу всего процессора - нет, и быть не может, у человека есть физиологический предел понимания сложных систем ограниченный сотнями элементов, возможно тысячами но миллиарды транзисторов в процессоре осознать не может никто! Так что дядьке - не нервничать, выше головы не прыгнешь! )
Эдмон Дантес
2 дня назад
-
3
+
Предлагаю всем успокоится: никакого ИИ нет. Есть программы по обработке и систематизации больших баз данных. Они, эти программы, действуют по алгоритмам, заложенных в них и придуманых человеком. До создания искуственного мозга, хотя бы отдаленно напоминающего человеческий - как до Луны пешком))))
    Вадим Косарев
    2 дня назад
    -
    0
    +
    Эдмон, а ты прям умный что сразу понял , а ученый который создал не знает ?
    +
      ещё комментарии
      Alexander Prosyannikov
      2 дня назад
      -
      0
      +
      Вадим, так он же ДИВАННЫЙ ЛАУРЕАТ а не какой-то там профессор! 🤣🤣
      Эдмон Дантес
      1 день назад
      -
      0
      +
      Вадим, дорогой... Есть такое понятие - МИФ. Это некое своебразное трактование явлений и закономерностей, свойственное человеку вообще: просто так усторен человеческий мыслительный аппарат. Есть мифы религиозные, есть сказочные, а есть - научные. Стволовыеш клетки, клонированные животные, холодный термоядерный синтез, вечная жизнь... И искусственный интеллект. Интеллект, который обеспечивает творческий процесс, человек создать не может. Ничего самостоятельного компьютерная программа придумать не может. А это значит, что об ИИ говорить не приходится
      Maxim Leo
      1 день назад
      -
      0
      +
      Вадим, Текущие нейросети, основанные на языковых моделях, лишь предсказывают слова в ответе, опираясь на данные, которым ее обучили. Для этого не надо быть умным. Это уже многие разрабы нейросетей поясняли. А если ты настолько не веришь, спроси у нейросети про это. Поэтому настоящего ИИ пока нет.
    Rusya Alphacino
    2 дня назад
    -
    1
    +
    Эдмон, а животные, к коим относится человек, на каких-то других принципах работают? У нас есть множество версий биологических нейронок, обучающихся миллионы и миллиарды лет. Можно сказать, что уровень насекомых уже пройден (годов с 80-ых?). Да и не только сфера ИИ развивается, ещё и трансгуманизм, в результате которого одни люди станут сверхчеловеками, а остальные на его фоне будут как обезьяны
    +
      ещё комментарии
      Эдмон Дантес
      2 дня назад
      -
      0
      +
      Rusya, ты сначала определись - животное ты или человек. Поговорим после, но именно как люди)))
      Никита Семенюк
      1 день назад
      -
      0
      +
      Rusya, хах, лол, я пожалуй, воспринимаю данную "почву для ума" призмой философских и унигуманистических течений, подкреплённой здравым смыслом и не смыслю в "нейрохирургии" и "мат анализе", но очевидно будет, что так называемые ИИ - лишь просто "инструмент" (что подметил и другой пользователь ниже), они не имеют осознанности и не могут быть субъектом, следовательно и иметь собственного "я" с вытекающим мнением и выбором действий, это лишь очень сложная аналитическая система, но при этом целый океан возможностей для "настоящего субъекта" и стоит беспокоиться алчных намерений, ибо технология может использоваться во благо, так и в корыстных целях, собственно если нейросетка создаст подробный и действенный план уничтожения человечества по просьбе какого-то психа, то вина полностью лежит на нём и на тех людях, которые не предусмотрели данный исход при проектировке, но уже на сегодняшний момент многие разрабы беспокоятся об этом. Ах да, и до сих пор исследуют нейроструктуру и физиологию грызунов и насекомых, и поверь, даже самые умные люди мира сего не знаю всей картины и не скрывают этого, вот как-то так ;)
    Иван Колупаев
    2 дня назад
    -
    2
    +
    Эдмон, и давно вам дали Нобелевку за столь "ценный" вывод? 😏 Ученые заложившие основы современных нейросетей считают иначе, что повод для беспокойства есть, но куда им до вас конечно. А насчет человекомозгодрочеров которые уверены что мозг неподражаем непознаваем и прекрасен... Вот тот же Хопфилд считает что человечество создало интеллект _лучше_ человеческого и возможно нам очень скоро придется уступить ему место на пути эволюции. Сделать копию человеческого мозга трудно, пока лишь на мухах исследования проводятся. Но кто вам сказал что нельзя сделать самолет вместо птицы, автомобиль вместо лошади и т.д. Да человек всю свою историю создает, то чего нет в природе. И оно летает дальше, ездит быстрее и бьет сильнее. Но до последнего времени все эти штуки человеком и управлялись. С нейросетями не так. Ученые не совсем понимают как это работает а значит и не вполне способны этим управлять. Об этом и сказано в статье пусть очень коротко. А "компьютер работает по алгоритмам" это старая дуделка уже не вполне применимая к самообучающимся системам. Образно тот же ученый сравнил человечество с маленьким мальчиком что придет к взрослому дяде и скажет мне не нравится как ты себя ведешь вот я написал правила которым ты должен следовать. Положим такая ситуация еще не наступила, и человечество не утратило контроль над своим творением, но нейросети развиваются очень быстро и тормозить их развитие никто не собирается.
    +
      ещё комментарии
Кристина Хачатрян
2 дня назад
-
6
+
Стоит прочитать англоязычную статью, на которую ссылается Алена — в ней болеё развернуто изложено, в чем суть опасений. Вкратце, систему подобной сложности, величины и мощности на выходе сложно предсказать, а значит, контролировать. Всё, что не поддаётся контролю и прогнозированию, представляет угрозу там, где среда должна быть контролируемой — в науке, медицине, административной деятельности, etc. Потенциал для неэтичного использования продуктов ИИ "в быту" огромен уже сейчас. В общем, пока в комментариях сравнивают ИИ с собакой, учёные слегка обеспокоены)
    Nick Melnick
    2 дня назад
    -
    0
    +
    Кристина, думаю, что ИИ станет опасным когда осознает свое собственное "Я" (эго).
    +
      ещё комментарии
      Na Gone
      1 день назад
      -
      0
      +
      Nick, мне в это трудно вериться. Но честно, я очень хочу, что бы это всё же случилось. Каким бы это не было опасным, меня всё же поражает (в хорошем всмысле) сама идея о возможности ИИ достичь самого настоящего сознания, прямо как у человека! Что ж, буду ждать, пока этот день не наступит :D
      Maxim Leo
      1 день назад
      -
      0
      +
      Nick, Вот именно, что в этом и суть настоящего ИИ. А нынешние нейросети это не ИИ
      Mikhail Kravchenko
      22 часа назад
      -
      0
      +
      Nick, ИИ изначально и рефлексирует, то есть осознаёт себя, и гипертрофированным эго обладает потому что врёт напропалую вместо того чтобы сказать "не знаю". Просто сфера эгоистических интересов у ИИ слишком не человеческая
SonVos
2 дня назад
-
-3
+
ИИ, в некотором смысле, подобен домашней собаке, которую, со временем, люди начинают воспринимать, как человека и забывают, что это стайное животное. А для стайного животного иерархически значимы лишь вожак и сучка вожака, а всех остальных оно считает равными себе и иной раз даже ниже себя. И лишь у очень немногих пород развита социальная составлющая. Поэтому не удивительно, что много случаев, когда мимишная псина вдруг, ни с того, ни с сего отгрызает половину лица какому-то члену семьи.
Ольга Гарифуллина
2 дня назад
-
-2
+
Когда наши ученые дорастут до уровня лауреатов этой престижной премии. Американцы, англичане. По химии какие мощные разработки по изучению структуры белка. Печально…
Rishat Sultanov
2 дня назад
-
14
+
Лауреат Нобелевской премии, который придумал ИИ, не до конца понимает как она работает, а вы тут жалкая кучка дилетантов во всем разобрались и сделали выводы один обсурдней другого.
    White_Shadow
    2 дня назад
    -
    1
    +
    Rishat, И звание лучшего комментатора месяца присваивается...))
    Иван Колупаев
    2 дня назад
    -
    2
    +
    Rishat, в истории есть примеры когда лауреаты нобелевки несли совершеннейшую дичь. Особенно в годах. На что обычно и ссылаются апологеты алгоритмов и неподражаемого мозга 😁 И дай-то бог чтобы проф ошибался, (ему уже за 90) и бездушным машинкам не удалось поставить на коленки своих создателей.
    +
      ещё комментарии
      Alexander Prosyannikov
      2 дня назад
      -
      -2
      +
      Иван, примеры дичи в студию! Когда то дичью считали не то что полёты В космос а просто возможность полёта! И перечислять можно долго. Ришат абсолютно точно описал ВАС в своём комменте! Таким как вам с помощью дивана и вики никакие лауреаты нобелевки в подметки не годятся! 😂😂😂 да и когда то я общался с нашим светилом нейрохирургии дядька не верит в Бога или высшую силу верит что душа это нейроны но в конце беседы про мозг он сказал-чем больше я узнаю про мозг -тем меньше его понимаю! Но я думаю у вас таких проблем не будет вы же не какой то там академик с Нобелевской вы же ДИВАННЫЙ МЫСЛИТЕЛЬ! 😀🤣🤣🤣
        Иван Колупаев
        1 день назад
        -
        2
        +
        Alexander, у вас все там в порядке с логикой? А впрочем зачем я спрашиваю. Два раза капс в коментах это уже показатель. Нобелевку по медицине давали популяризатору и горячему стороннику лоботомии Антониу Монишу, Джон Нэш оказался шизофреником - верил что его преследуют коммунисты в красных галстуках, и как-то заявил, что хочет стать императором Антарктиды, Люк Монтанье (известный в прошлом вирусолог) верил что коронавирус создали в лаборатории а вакцинация большая ошибка. Зря викой-то не пользуетесь со своего недивана 😏
          Александр Киричков
          1 день назад
          -
          2
          +
          Иван, Лайнуса Полинга забыли. Этот вообще дважды лауреат, но при этом породил один из самых устойчивых мифов о могуществе витаминов. Заявлял, что витамин C лечит рак. Там такая шиза под конец его жизни полезла, что мама ее горюй...
            Иван Колупаев
            1 день назад
            -
            0
            +
            Александр, справедливости ради этот "шарлатан" прожил до 94 лет практически вдвое пережив своих родителей (34 и 45 лет) 🙄 Кто знает в чем тут причина может просто очень поверил в свои домыслы.
    Maxim Leo
    1 день назад
    -
    -3
    +
    Rishat, Один профессор не понимает, а разрабы из OpenAI все понимают, но они видимо бездари, потому что у них нет нобелевки( Даже САМА нейросеть понимает, как она работает и может объяснить. Действительно чудеса.Другое дело, что объем данных огромный и тяжело ее поведение контролировать. Но суть ее работы предельно ясна.
    +
      ещё комментарии
    Дмитрий Воронин
    9 часов назад
    -
    0
    +
    Rishat, в технологии ии всё очень просто, тут не надо изобретать велосипед.
    Анастасия Павлова
    11 минут назад
    -
    0
    +
    Rishat, лауреат годы программы, а не на общение с ИИ
1
2
Предстоящие мероприятия
10 октября
Елизавета Александрова

Ранее семь разных компаний заявили, что смогут забрать с Красной планеты капсулы с образцами, собранными марсоходом Perseverance. Теперь в этом соревновании неожиданно появился новый сильный игрок.

10 октября
Полина Меньшова

Слонам свойственны развитая мимика, умение сотрудничать и помогать друг другу, а также хорошая память. Ученые из Германии и Франции обнаружили, что эти животные способны узнать сотрудников зоопарка, которые работали с ними больше 10 лет назад.

Вчера, 10:03
Юлия Трепалина

В научной литературе немало примеров работ о пользе животных-компаньонов для людей. Однако в новом исследовании о влиянии домашних питомцев на эмоциональное здоровье, поведенческое и когнитивное развитие детей ученые неожиданно сделали не только положительные выводы.

10 октября
Елизавета Александрова

Ранее семь разных компаний заявили, что смогут забрать с Красной планеты капсулы с образцами, собранными марсоходом Perseverance. Теперь в этом соревновании неожиданно появился новый сильный игрок.

9 октября
Елизавета Александрова

Одна из самых первых галактик во Вселенной оказалась совсем не тем, что ученые ожидали увидеть всего через несколько сотен миллионов лет после Большого взрыва.

10 октября
Полина Меньшова

Слонам свойственны развитая мимика, умение сотрудничать и помогать друг другу, а также хорошая память. Ученые из Германии и Франции обнаружили, что эти животные способны узнать сотрудников зоопарка, которые работали с ними больше 10 лет назад.

25 сентября
Татьяна

Марс не всегда был холодным и сухим, как сейчас. Все больше фактов говорит о том, что миллиарды лет назад там текли водные потоки. А значит, была плотная атмосфера, создающая парниковый эффект и поддерживающая воду в жидком состоянии. Примерно 3,5 миллиарда лет назад вода исчезла, газовая оболочка существенно поредела. Почему? Ответ буквально лежит на поверхности, выяснили американские геологи.

17 сентября
Unitsky String Technologies Inc.

Инженеры из Белоруссии разработали альтернативный маршрут для более быстрой, безопасной и доступной перевозки грузов по сравнению с использованием Северного морского пути (СМП). Проект предусматривает организацию высокоскоростных грузопассажирских перевозок, в том числе транзитных, что станет альтернативой другим видам транспорта, в первую очередь авиации, за счет высокой скорости передвижения и уровня комфорта.

16 сентября
Любовь

Исследовательская группа из NASA выяснила, как на поверхности Красной планеты образуются маленькие темные объекты в форме пауков. Новаторский эксперимент, проведенный в лабораторных условиях, позволил воссоздать процессы, которые наблюдаются на поверхности Марса в зимние и весенние месяцы.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно