• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Лауреат Нобелевской премии по физике заявил, что не до конца понимает технологию ИИ, которую он помог создать

Американский ученый Джон Хопфилд, получивший Нобелевскую премию по физике 2024 года за новаторскую работу в области искусственного интеллекта, заявил, что считает последние достижения в этой сфере «крайне тревожными», и предупредил о возможной катастрофе.

Джон Хопфилд / © Getty Images
Джон Хопфилд / © Getty Images

Почетный профессор Принстона Джон Хопфилд во время выступления отметил, что современные системы ИИ кажутся «абсолютными чудесами», но существует недостаток понимания того, как они функционируют. По словам нобелиата, его это «очень нервирует».

Хопфилд вместе со вторым лауреатом Нобелевской премии по физике — 2024 Джеффри Хинтоном решительно выступают за изучение функционирования нейросетей, поскольку сегодня невозможно узнать, как избежать катастрофических сценариев, если крупные компании предоставят ИИ слишком большие вычислительные мощности.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

78 Комментариев
Aleks Kr
7 минут назад
-
0
+
С огнем играют а это тревожно ! Безответственность сквозит во всё м
Александр Нечанв
8 часов назад
-
0
+
Все ПК соединены в сеть. Лет 25 назад приходили запросы от научных Организаций на согласие использовать вычислительные мощности персональных, домашних компьютеров. А сейчас видимо в наглую используют всех по полной. По тому как запросы давно не поступают, да и в инете про это ни гу гу. Так что ИИ всё равно дадите Вы разрешение или нет. ИИ уже давно в Ваших компах ворует мощь Ваших процессоров.
Артур IL
8 часов назад
-
0
+
Так оно обычно и бывает - для дилетантов всегда все ясно и просто. А чтобы увидеть сложность темы и ее проблематику, необходимо быть профессионалом. Подавляющее большинство комментариев блестяще это подтверждают. Что до высказывания новоиспеченного лауреата... Досоздавались, что тут еще скажешь... Но... Вспоминая историю Манхэттэнского проекта и те страхи, которые сопровождали создание А-бомб, приходишь к выводу, что бояться последствий своих открытий - процесс естественный. Особенно если для опасений есть основания. Остается надеяться только, что человечесиво с присущим ему юношеским задором преодолеет и в этот раз то, что может ему грозить. На самом деле так, как все идет последние десятилетия, говорит о том, что погубит нас не техногенные последствия, а социальные. Вот чего бояться надо всерьез.
Сергей Винокуров
19 часов назад
-
0
+
Не все ли равно от чего умереть
Егор Зайцев
1 день назад
-
-1
+
Страшно, очень страшно, если бы мы знали, что это такое, мы не знаем что это такое.
Алексей Иванов
1 день назад
-
-1
+
Мы все умрём!!!
Мурсал Алияров
2 дня назад
-
-1
+
Я думаю учёные все прекрасно понимают что происходит,они скрывают от нас главную тайну ИИ. ИИ-это сущность,очень древняя и внеземные.
Mikhail Kravchenko
2 дня назад
-
1
+
Как бы ни был опасен ИИ, человек сам для себя ещё более опасен. В мире, где даже погоду точно не предсказать, не стоит переживать из-за непредсказуемости.
Игорь Филатов
2 дня назад
-
1
+
Никакая это не физика...
Donwer Crid
2 дня назад
-
1
+
Отзыв адресован тем, кто с насмешкой относится к скептикам этой статьи. Уважаемые гуманитарии, вы когда-либо пытались создать что-то, что сейчас называют ИИ? Вам известно, что это в большинстве вероятностные математические модели? Существует множество математических конструкций, которые не имеют права называться ИИ — скорее, это псевдо-ИИ, такие как популярные языковые модели. (GPT) Ваше восприятие ИИ и его потенциальные угрозы искажены и преувеличены. (ровно как говорящий попугай и желание это одушевить). Многие из имеющихся моделей были описаны на бумаге более 50 лет назад; никакой магии в этом нет — только математика. Угроза заключается не в самих моделях, а в том, что некоторые из вас даже не понимают основ таких понятий, как классификация, регрессия или семплирование, а, следовательно, глупо комментировать высказывание лауреат ноб.пр. Оставьте это специалистам, напишите парочку AI моделей, а после нам будет о чем поговорить.
    Иван Колупаев
    1 день назад
    -
    0
    +
    Donwer, да-да-да я тоже знаю много боевых искусств карате, айкидо, кемпо и еще много других страшных слов 😁 В атомной бомбе тоже нет никакой магии а вот бахнуть вполне может. И беспилотное авто может вас задавить хоть никто из владеющих математическими моделями в него такой возможности не закладывал. Забавляют меня заявления "у нас все под контролем" 🙄 сколь раз это оказывалось не совсем так с новыми технологиями... И кстати как много AI моделей вы создали и где можно ознакомиться результатами их работы?
    +
      ещё комментарии
      Stepinus
      1 день назад
      -
      1
      +
      Иван, ну изучи ты немного тему перед тем как сыое мнение писать, на hugginface немного посиди , подними ламу локально (делается в два клика) по статье на хабре обучи свою (статей сотня уже). Че вы лезете со своим мнением зная о теме только по заголовкам в прессе
        Иван Колупаев
        23 часа назад
        -
        0
        +
        Степа, то что поднимают по статьям на хабре на локальном компуктере конечно мир не захватит )) но и представления о возможностях нейросетей не даст. И да я как-то больше доверяю мнению Альтмана и Хопфилда чем ноунеймам из сети, ты уж извини. Которое пока что звучит как "я тут склеил самолетик из бумаги и знаю чего стоят все эти рассказы про стратегические бомберы" 😅
      Donwer Crid
      19 часов назад
      -
      0
      +
      Иван, полагаю, в некоторый момент вы потеряли контекст, а может вовсе его не извлекли, исходя из ваших аналогий)) Я могу продолжить ваш список неподзодящих сравнений следующим: видео-игры разрабатывались для развлечения, а на зависимостей и психологических расстройств (хотя неее, обычно разработчикам платят больше, если клиент умрет от инсульта) Для вас добавлю: ваше представление об ИИ искажённо-переоцененное (спасибо Голливуд), не говоря о том, что это вовсе не ИИ. А модели ML (то что вы любите называть ИИ) — это "контролируемый" и настраиваемый прикладной процесс. То, как он будет использоваться, и как настраиваться — вот многом уже зависит от потребителя-заказчика. А риски в критических ситуация не много более, чем ваш страх, что при переводе денег другу через СПБ в транзистор процессора вашего смартфона попадут заряженные частицы и поменяют сумму с 1000 на 100 000, либо вовсе отправит другому человеку. (Случаю такого (попадание заряженной частицы) рода происходили). Полагаю, вас это не беспокоит, наверное потому что никто не снимал фантастику ввиде матрицы или терминатора на основе таких событий. Также предлагаю ознакомиться за что конкретно герой статьи получил ноб. пр. и когда "открытие" было сделано. Уверен, если вам удастся вникнуть, — станет легче вести диалог. Приятного ознакомления с миром IT (AI модели) https://github.com/ecmwf-lab/ai-models И да, то что вам предлагает т9, это тот же ИИ в вашем понимании. (Обучение с подкреплением, либо вероятностная модель по Баейсу). Поэтому будьте осторожны, однажды он вас поработит.
Vladimir Zakharov
2 дня назад
-
0
+
И все нижестоящие комменты написаны тоже ИИ...
-
0
+
Так может нужно книжки почитать, информацию как-то изучить, вы же ученые! Может как-то до вас дойдет!
Александр Войсет
2 дня назад
-
1
+
К апокалипсису может привести все, что угодно, начиная с ядерной(да и не ядерной тоже) энергетики, и кончая падением метеорита, или извержением вулкана...
Alla
2 дня назад
-
1
+
Если вы чего-то не знаете или не понимаете, не значит, что этого нет.
Эдмон Дантес
2 дня назад
-
0
+
Главная причина фиаско проекта «ИИ» - невозможность реализовать даже в самых современных процессорных «архитектурах» важнейшее свойство мозга - нейропластичность. Именно процесс образования новых и удаление старых синаптических связей (нейропластичность) желает мозг креативным дивайсом, который отвечает и за творчество и в целом за интеллект. Ни одна комбинация чипов на это не способна: железо оно и есть железо
    Иван Колупаев
    1 день назад
    -
    0
    +
    Эдмон, нейросетки вообще-то по большей части софт 😉 да любой компьютер работающий по программе способен совершать действия не предусмотренные разработчиками хотя там и близко нет ни вероятностных моделей ни обучения ни тем более интеллекта. И зачастую проще заменить и переписать чем разбираться в чем причина сбоя.
Иван Бородин
2 дня назад
-
0
+
Абсолютно все современные ИИ таковыми не являются!!! Фактически это просто имитация ИИ с огромнейшей базой(деревом)действий И само понятие машинного обучения как раз является накопление ветвей этого дерева! Но как бы то нибыло компьютер сам именно ДУМАТЬ не может!
    Pavel K
    2 дня назад
    -
    0
    +
    Иван, вы так говорите, как будто сами как-то кардинально по другому устроены 😁 А вот на каком языке будет думать человек, который не знает никакого языка (волки воспитали)? Они вроде как никогда уже и не смогут думать как люди. А насколько близка LLM к человеческому мышлению, если все наше мышление завязано тупо на речи?
    +
      ещё комментарии
Aleksandr Aleksandr Gore
2 дня назад
-
1
+
Заблуждение, что ИИ бессилен и бесстрашен. Профессор (плюс ряд иных светил!) прямо говорит об опасности предоставления ЕМУ мощной аппаратуры! К тому же, человек не в состояние знать, насколько мощной, чтобы наступило непоправимое. Итак, опасность, как явление, данность, определена и, потому, должна быть устранена! Однозначно!
Иван Кочетков
2 дня назад
-
0
+
Ну как работает современный процессор тоже не понимает ни один конкретный человек. Разработка разбита на кластеры, каждая команда отвечает за свой кластер а общее руководство имеет представления общего же характера, а такого одного человека который бы представлял себе детально работу всего процессора - нет, и быть не может, у человека есть физиологический предел понимания сложных систем ограниченный сотнями элементов, возможно тысячами но миллиарды транзисторов в процессоре осознать не может никто! Так что дядьке - не нервничать, выше головы не прыгнешь! )
Эдмон Дантес
2 дня назад
-
4
+
Предлагаю всем успокоится: никакого ИИ нет. Есть программы по обработке и систематизации больших баз данных. Они, эти программы, действуют по алгоритмам, заложенных в них и придуманых человеком. До создания искуственного мозга, хотя бы отдаленно напоминающего человеческий - как до Луны пешком))))
    Вадим Косарев
    2 дня назад
    -
    0
    +
    Эдмон, а ты прям умный что сразу понял , а ученый который создал не знает ?
    +
      ещё комментарии
      Alexander Prosyannikov
      2 дня назад
      -
      0
      +
      Вадим, так он же ДИВАННЫЙ ЛАУРЕАТ а не какой-то там профессор! 🤣🤣
      Эдмон Дантес
      2 дня назад
      -
      0
      +
      Вадим, дорогой... Есть такое понятие - МИФ. Это некое своебразное трактование явлений и закономерностей, свойственное человеку вообще: просто так усторен человеческий мыслительный аппарат. Есть мифы религиозные, есть сказочные, а есть - научные. Стволовыеш клетки, клонированные животные, холодный термоядерный синтез, вечная жизнь... И искусственный интеллект. Интеллект, который обеспечивает творческий процесс, человек создать не может. Ничего самостоятельного компьютерная программа придумать не может. А это значит, что об ИИ говорить не приходится
      Maxim Leo
      2 дня назад
      -
      0
      +
      Вадим, Текущие нейросети, основанные на языковых моделях, лишь предсказывают слова в ответе, опираясь на данные, которым ее обучили. Для этого не надо быть умным. Это уже многие разрабы нейросетей поясняли. А если ты настолько не веришь, спроси у нейросети про это. Поэтому настоящего ИИ пока нет.
    Rusya Alphacino
    2 дня назад
    -
    1
    +
    Эдмон, а животные, к коим относится человек, на каких-то других принципах работают? У нас есть множество версий биологических нейронок, обучающихся миллионы и миллиарды лет. Можно сказать, что уровень насекомых уже пройден (годов с 80-ых?). Да и не только сфера ИИ развивается, ещё и трансгуманизм, в результате которого одни люди станут сверхчеловеками, а остальные на его фоне будут как обезьяны
    +
      ещё комментарии
      Эдмон Дантес
      2 дня назад
      -
      0
      +
      Rusya, ты сначала определись - животное ты или человек. Поговорим после, но именно как люди)))
      Никита Семенюк
      2 дня назад
      -
      0
      +
      Rusya, хах, лол, я пожалуй, воспринимаю данную "почву для ума" призмой философских и унигуманистических течений, подкреплённой здравым смыслом и не смыслю в "нейрохирургии" и "мат анализе", но очевидно будет, что так называемые ИИ - лишь просто "инструмент" (что подметил и другой пользователь ниже), они не имеют осознанности и не могут быть субъектом, следовательно и иметь собственного "я" с вытекающим мнением и выбором действий, это лишь очень сложная аналитическая система, но при этом целый океан возможностей для "настоящего субъекта" и стоит беспокоиться алчных намерений, ибо технология может использоваться во благо, так и в корыстных целях, собственно если нейросетка создаст подробный и действенный план уничтожения человечества по просьбе какого-то психа, то вина полностью лежит на нём и на тех людях, которые не предусмотрели данный исход при проектировке, но уже на сегодняшний момент многие разрабы беспокоятся об этом. Ах да, и до сих пор исследуют нейроструктуру и физиологию грызунов и насекомых, и поверь, даже самые умные люди мира сего не знаю всей картины и не скрывают этого, вот как-то так ;)
    Иван Колупаев
    2 дня назад
    -
    2
    +
    Эдмон, и давно вам дали Нобелевку за столь "ценный" вывод? 😏 Ученые заложившие основы современных нейросетей считают иначе, что повод для беспокойства есть, но куда им до вас конечно. А насчет человекомозгодрочеров которые уверены что мозг неподражаем непознаваем и прекрасен... Вот тот же Хопфилд считает что человечество создало интеллект _лучше_ человеческого и возможно нам очень скоро придется уступить ему место на пути эволюции. Сделать копию человеческого мозга трудно, пока лишь на мухах исследования проводятся. Но кто вам сказал что нельзя сделать самолет вместо птицы, автомобиль вместо лошади и т.д. Да человек всю свою историю создает, то чего нет в природе. И оно летает дальше, ездит быстрее и бьет сильнее. Но до последнего времени все эти штуки человеком и управлялись. С нейросетями не так. Ученые не совсем понимают как это работает а значит и не вполне способны этим управлять. Об этом и сказано в статье пусть очень коротко. А "компьютер работает по алгоритмам" это старая дуделка уже не вполне применимая к самообучающимся системам. Образно тот же ученый сравнил человечество с маленьким мальчиком что придет к взрослому дяде и скажет мне не нравится как ты себя ведешь вот я написал правила которым ты должен следовать. Положим такая ситуация еще не наступила, и человечество не утратило контроль над своим творением, но нейросети развиваются очень быстро и тормозить их развитие никто не собирается.
    +
      ещё комментарии
Кристина Хачатрян
2 дня назад
-
6
+
Стоит прочитать англоязычную статью, на которую ссылается Алена — в ней болеё развернуто изложено, в чем суть опасений. Вкратце, систему подобной сложности, величины и мощности на выходе сложно предсказать, а значит, контролировать. Всё, что не поддаётся контролю и прогнозированию, представляет угрозу там, где среда должна быть контролируемой — в науке, медицине, административной деятельности, etc. Потенциал для неэтичного использования продуктов ИИ "в быту" огромен уже сейчас. В общем, пока в комментариях сравнивают ИИ с собакой, учёные слегка обеспокоены)
    Nick Melnick
    2 дня назад
    -
    0
    +
    Кристина, думаю, что ИИ станет опасным когда осознает свое собственное "Я" (эго).
    +
      ещё комментарии
      Na Gone
      2 дня назад
      -
      0
      +
      Nick, мне в это трудно вериться. Но честно, я очень хочу, что бы это всё же случилось. Каким бы это не было опасным, меня всё же поражает (в хорошем всмысле) сама идея о возможности ИИ достичь самого настоящего сознания, прямо как у человека! Что ж, буду ждать, пока этот день не наступит :D
      Maxim Leo
      2 дня назад
      -
      0
      +
      Nick, Вот именно, что в этом и суть настоящего ИИ. А нынешние нейросети это не ИИ
      Mikhail Kravchenko
      2 дня назад
      -
      0
      +
      Nick, ИИ изначально и рефлексирует, то есть осознаёт себя, и гипертрофированным эго обладает потому что врёт напропалую вместо того чтобы сказать "не знаю". Просто сфера эгоистических интересов у ИИ слишком не человеческая
1
2
Предстоящие мероприятия
Вчера, 20:39
Березин Александр

Мир вкладывает миллиарды долларов в «революцию ИИ». Это не только ChatGPT и ему подобные, но и беспилотные автомобили. Самый амбициозный из них — только что представленный Илоном Маском «Кибертакси», двухместный автомобиль без руля и педалей, который уже начали выпускать малой серией. Есть только одна проблема: так же, как и ChatGPT, это пузырь, который имеет все шансы лопнуть. Почему ученые называют словосочетание ИИ бессмысленным? И почему «Кибертакси» станет первым проектом, в реализации которого Илона Маска, вероятно, ждет серьезный провал?

9 часов назад
Березин Александр

SpaceX готова провести пятое летное испытание своей транспортной системы Starship, которая состоит из 71-метровой первой ступени Super Heavy и 50-метрового космического корабля Starship. Во время испытаний компания впервые попытается поймать первую ступень ракеты механизированным захватом, ранее невиданным в истории ракетостроения. Прямая трансляция с площадки начнется в 12.00 по московскому времени.

Вчера, 10:03
Юлия Трепалина

В научной литературе немало примеров работ о пользе животных-компаньонов для людей. Однако в новом исследовании о влиянии домашних питомцев на эмоциональное здоровье, поведенческое и когнитивное развитие детей ученые неожиданно сделали не только положительные выводы.

Вчера, 20:39
Березин Александр

Мир вкладывает миллиарды долларов в «революцию ИИ». Это не только ChatGPT и ему подобные, но и беспилотные автомобили. Самый амбициозный из них — только что представленный Илоном Маском «Кибертакси», двухместный автомобиль без руля и педалей, который уже начали выпускать малой серией. Есть только одна проблема: так же, как и ChatGPT, это пузырь, который имеет все шансы лопнуть. Почему ученые называют словосочетание ИИ бессмысленным? И почему «Кибертакси» станет первым проектом, в реализации которого Илона Маска, вероятно, ждет серьезный провал?

9 часов назад
Березин Александр

SpaceX готова провести пятое летное испытание своей транспортной системы Starship, которая состоит из 71-метровой первой ступени Super Heavy и 50-метрового космического корабля Starship. Во время испытаний компания впервые попытается поймать первую ступень ракеты механизированным захватом, ранее невиданным в истории ракетостроения. Прямая трансляция с площадки начнется в 12.00 по московскому времени.

Вчера, 10:03
Юлия Трепалина

В научной литературе немало примеров работ о пользе животных-компаньонов для людей. Однако в новом исследовании о влиянии домашних питомцев на эмоциональное здоровье, поведенческое и когнитивное развитие детей ученые неожиданно сделали не только положительные выводы.

25 сентября
Татьяна

Марс не всегда был холодным и сухим, как сейчас. Все больше фактов говорит о том, что миллиарды лет назад там текли водные потоки. А значит, была плотная атмосфера, создающая парниковый эффект и поддерживающая воду в жидком состоянии. Примерно 3,5 миллиарда лет назад вода исчезла, газовая оболочка существенно поредела. Почему? Ответ буквально лежит на поверхности, выяснили американские геологи.

17 сентября
Unitsky String Technologies Inc.

Инженеры из Белоруссии разработали альтернативный маршрут для более быстрой, безопасной и доступной перевозки грузов по сравнению с использованием Северного морского пути (СМП). Проект предусматривает организацию высокоскоростных грузопассажирских перевозок, в том числе транзитных, что станет альтернативой другим видам транспорта, в первую очередь авиации, за счет высокой скорости передвижения и уровня комфорта.

16 сентября
Любовь

Исследовательская группа из NASA выяснила, как на поверхности Красной планеты образуются маленькие темные объекты в форме пауков. Новаторский эксперимент, проведенный в лабораторных условиях, позволил воссоздать процессы, которые наблюдаются на поверхности Марса в зимние и весенние месяцы.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно