• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Лауреат Нобелевской премии по физике заявил, что не до конца понимает технологию ИИ, которую он помог создать

Американский ученый Джон Хопфилд, получивший Нобелевскую премию по физике 2024 года за новаторскую работу в области искусственного интеллекта, заявил, что считает последние достижения в этой сфере «крайне тревожными», и предупредил о возможной катастрофе.

Джон Хопфилд / © Getty Images
Джон Хопфилд / © Getty Images

Почетный профессор Принстона Джон Хопфилд во время выступления отметил, что современные системы ИИ кажутся «абсолютными чудесами», но существует недостаток понимания того, как они функционируют. По словам нобелиата, его это «очень нервирует».

Хопфилд вместе со вторым лауреатом Нобелевской премии по физике — 2024 Джеффри Хинтоном решительно выступают за изучение функционирования нейросетей, поскольку сегодня невозможно узнать, как избежать катастрофических сценариев, если крупные компании предоставят ИИ слишком большие вычислительные мощности.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

48 Комментариев
Vladimir Zakharov
55 минут назад
-
0
+
И все нижестоящие комменты написаны тоже ИИ...
-
0
+
Так может нужно книжки почитать, информацию как-то изучить, вы же ученые! Может как-то до вас дойдет!
Александр Войсет
2 часа назад
-
0
+
К апокалипсису может привести все, что угодно, начиная с ядерной(да и не ядерной тоже) энергетики, и кончая падением метеорита, или извержением вулкана...
Alla
2 часа назад
-
1
+
Если вы чего-то не знаете или не понимаете, не значит, что этого нет.
Эдмон Дантес
4 часа назад
-
0
+
Главная причина фиаско проекта «ИИ» - невозможность реализовать даже в самых современных процессорных «архитектурах» важнейшее свойство мозга - нейропластичность. Именно процесс образования новых и удаление старых синаптических связей (нейропластичность) желает мозг креативным дивайсом, который отвечает и за творчество и в целом за интеллект. Ни одна комбинация чипов на это не способна: железо оно и есть железо
Иван Бородин
5 часов назад
-
0
+
Абсолютно все современные ИИ таковыми не являются!!! Фактически это просто имитация ИИ с огромнейшей базой(деревом)действий И само понятие машинного обучения как раз является накопление ветвей этого дерева! Но как бы то нибыло компьютер сам именно ДУМАТЬ не может!
    Pavel K
    5 часов назад
    -
    0
    +
    Иван, вы так говорите, как будто сами как-то кардинально по другому устроены 😁 А вот на каком языке будет думать человек, который не знает никакого языка (волки воспитали)? Они вроде как никогда уже и не смогут думать как люди. А насколько близка LLM к человеческому мышлению, если все наше мышление завязано тупо на речи?
    +
      ещё комментарии
Aleksandr Aleksandr Gore
6 часов назад
-
0
+
Заблуждение, что ИИ бессилен и бесстрашен. Профессор (плюс ряд иных светил!) прямо говорит об опасности предоставления ЕМУ мощной аппаратуры! К тому же, человек не в состояние знать, насколько мощной, чтобы наступило непоправимое. Итак, опасность, как явление, данность, определена и, потому, должна быть устранена! Однозначно!
Иван Кочетков
8 часов назад
-
0
+
Ну как работает современный процессор тоже не понимает ни один конкретный человек. Разработка разбита на кластеры, каждая команда отвечает за свой кластер а общее руководство имеет представления общего же характера, а такого одного человека который бы представлял себе детально работу всего процессора - нет, и быть не может, у человека есть физиологический предел понимания сложных систем ограниченный сотнями элементов, возможно тысячами но миллиарды транзисторов в процессоре осознать не может никто! Так что дядьке - не нервничать, выше головы не прыгнешь! )
Эдмон Дантес
10 часов назад
-
0
+
Предлагаю всем успокоится: никакого ИИ нет. Есть программы по обработке и систематизации больших баз данных. Они, эти программы, действуют по алгоритмам, заложенных в них и придуманых человеком. До создания искуственного мозга, хотя бы отдаленно напоминающего человеческий - как до Луны пешком))))
    Вадим Косарев
    10 часов назад
    -
    0
    +
    Эдмон, а ты прям умный что сразу понял , а ученый который создал не знает ?
    +
      ещё комментарии
      Alexander Prosyannikov
      4 часа назад
      -
      0
      +
      Вадим, так он же ДИВАННЫЙ ЛАУРЕАТ а не какой-то там профессор! 🤣🤣
      Эдмон Дантес
      2 часа назад
      -
      0
      +
      Вадим, дорогой... Есть такое понятие - МИФ. Это некое своебразное трактование явлений и закономерностей, свойственное человеку вообще: просто так усторен человеческий мыслительный аппарат. Есть мифы религиозные, есть сказочные, а есть - научные. Стволовыеш клетки, клонированные животные, холодный термоядерный синтез, вечная жизнь... И искусственный интеллект. Интеллект, который обеспечивает творческий процесс, человек создать не может. Ничего самостоятельного компьютерная программа придумать не может. А это значит, что об ИИ говорить не приходится
      Maxim Leo
      37 минут назад
      -
      0
      +
      Вадим, Текущие нейросети, основанные на языковых моделях, лишь предсказывают слова в ответе, опираясь на данные, которым ее обучили. Для этого не надо быть умным. Это уже многие разрабы нейросетей поясняли. А если ты настолько не веришь, спроси у нейросети про это. Поэтому настоящего ИИ пока нет.
    Rusya Alphacino
    9 часов назад
    -
    1
    +
    Эдмон, а животные, к коим относится человек, на каких-то других принципах работают? У нас есть множество версий биологических нейронок, обучающихся миллионы и миллиарды лет. Можно сказать, что уровень насекомых уже пройден (годов с 80-ых?). Да и не только сфера ИИ развивается, ещё и трансгуманизм, в результате которого одни люди станут сверхчеловеками, а остальные на его фоне будут как обезьяны
    +
      ещё комментарии
      Эдмон Дантес
      4 часа назад
      -
      0
      +
      Rusya, ты сначала определись - животное ты или человек. Поговорим после, но именно как люди)))
      Никита Семенюк
      59 минут назад
      -
      0
      +
      Rusya, хах, лол, я пожалуй, воспринимаю данную "почву для ума" призмой философских и унигуманистических течений, подкреплённой здравым смыслом и не смыслю в "нейрохирургии" и "мат анализе", но очевидно будет, что так называемые ИИ - лишь просто "инструмент" (что подметил и другой пользователь ниже), они не имеют осознанности и не могут быть субъектом, следовательно и иметь собственного "я" с вытекающим мнением и выбором действий, это лишь очень сложная аналитическая система, но при этом целый океан возможностей для "настоящего субъекта" и стоит беспокоиться алчных намерений, ибо технология может использоваться во благо, так и в корыстных целях, собственно если нейросетка создаст подробный и действенный план уничтожения человечества по просьбе какого-то психа, то вина полностью лежит на нём и на тех людях, которые не предусмотрели данный исход при проектировке, но уже на сегодняшний момент многие разрабы беспокоятся об этом. Ах да, и до сих пор исследуют нейроструктуру и физиологию грызунов и насекомых, и поверь, даже самые умные люди мира сего не знаю всей картины и не скрывают этого, вот как-то так ;)
    Иван Колупаев
    8 часов назад
    -
    1
    +
    Эдмон, и давно вам дали Нобелевку за столь "ценный" вывод? 😏 Ученые заложившие основы современных нейросетей считают иначе, что повод для беспокойства есть, но куда им до вас конечно. А насчет человекомозгодрочеров которые уверены что мозг неподражаем непознаваем и прекрасен... Вот тот же Хопфилд считает что человечество создало интеллект _лучше_ человеческого и возможно нам очень скоро придется уступить ему место на пути эволюции. Сделать копию человеческого мозга трудно, пока лишь на мухах исследования проводятся. Но кто вам сказал что нельзя сделать самолет вместо птицы, автомобиль вместо лошади и т.д. Да человек всю свою историю создает, то чего нет в природе. И оно летает дальше, ездит быстрее и бьет сильнее. Но до последнего времени все эти штуки человеком и управлялись. С нейросетями не так. Ученые не совсем понимают как это работает а значит и не вполне способны этим управлять. Об этом и сказано в статье пусть очень коротко. А "компьютер работает по алгоритмам" это старая дуделка уже не вполне применимая к самообучающимся системам. Образно тот же ученый сравнил человечество с маленьким мальчиком что придет к взрослому дяде и скажет мне не нравится как ты себя ведешь вот я написал правила которым ты должен следовать. Положим такая ситуация еще не наступила, и человечество не утратило контроль над своим творением, но нейросети развиваются очень быстро и тормозить их развитие никто не собирается.
    +
      ещё комментарии
Кристина Хачатрян
12 часов назад
-
5
+
Стоит прочитать англоязычную статью, на которую ссылается Алена — в ней болеё развернуто изложено, в чем суть опасений. Вкратце, систему подобной сложности, величины и мощности на выходе сложно предсказать, а значит, контролировать. Всё, что не поддаётся контролю и прогнозированию, представляет угрозу там, где среда должна быть контролируемой — в науке, медицине, административной деятельности, etc. Потенциал для неэтичного использования продуктов ИИ "в быту" огромен уже сейчас. В общем, пока в комментариях сравнивают ИИ с собакой, учёные слегка обеспокоены)
    Nick Melnick
    8 часов назад
    -
    0
    +
    Кристина, думаю, что ИИ станет опасным когда осознает свое собственное "Я" (эго).
    +
      ещё комментарии
      Na Gone
      3 часа назад
      -
      0
      +
      Nick, мне в это трудно вериться. Но честно, я очень хочу, что бы это всё же случилось. Каким бы это не было опасным, меня всё же поражает (в хорошем всмысле) сама идея о возможности ИИ достичь самого настоящего сознания, прямо как у человека! Что ж, буду ждать, пока этот день не наступит :D
      Maxim Leo
      33 минуты назад
      -
      0
      +
      Nick, Вот именно, что в этом и суть настоящего ИИ. А нынешние нейросети это не ИИ
SonVos
13 часов назад
-
-3
+
ИИ, в некотором смысле, подобен домашней собаке, которую, со временем, люди начинают воспринимать, как человека и забывают, что это стайное животное. А для стайного животного иерархически значимы лишь вожак и сучка вожака, а всех остальных оно считает равными себе и иной раз даже ниже себя. И лишь у очень немногих пород развита социальная составлющая. Поэтому не удивительно, что много случаев, когда мимишная псина вдруг, ни с того, ни с сего отгрызает половину лица какому-то члену семьи.
Ольга Гарифуллина
14 часов назад
-
-2
+
Когда наши ученые дорастут до уровня лауреатов этой престижной премии. Американцы, англичане. По химии какие мощные разработки по изучению структуры белка. Печально…
Rishat Sultanov
15 часов назад
-
12
+
Лауреат Нобелевской премии, который придумал ИИ, не до конца понимает как она работает, а вы тут жалкая кучка дилетантов во всем разобрались и сделали выводы один обсурдней другого.
    White_Shadow
    8 часов назад
    -
    1
    +
    Rishat, И звание лучшего комментатора месяца присваивается...))
    Иван Колупаев
    6 часов назад
    -
    1
    +
    Rishat, в истории есть примеры когда лауреаты нобелевки несли совершеннейшую дичь. Особенно в годах. На что обычно и ссылаются апологеты алгоритмов и неподражаемого мозга 😁 И дай-то бог чтобы проф ошибался, (ему уже за 90) и бездушным машинкам не удалось поставить на коленки своих создателей.
    +
      ещё комментарии
      Alexander Prosyannikov
      4 часа назад
      -
      0
      +
      Иван, примеры дичи в студию! Когда то дичью считали не то что полёты В космос а просто возможность полёта! И перечислять можно долго. Ришат абсолютно точно описал ВАС в своём комменте! Таким как вам с помощью дивана и вики никакие лауреаты нобелевки в подметки не годятся! 😂😂😂 да и когда то я общался с нашим светилом нейрохирургии дядька не верит в Бога или высшую силу верит что душа это нейроны но в конце беседы про мозг он сказал-чем больше я узнаю про мозг -тем меньше его понимаю! Но я думаю у вас таких проблем не будет вы же не какой то там академик с Нобелевской вы же ДИВАННЫЙ МЫСЛИТЕЛЬ! 😀🤣🤣🤣
        Иван Колупаев
        1 час назад
        -
        0
        +
        Alexander, у вас все там в порядке с логикой? А впрочем зачем я спрашиваю. Два раза капс в коментах это уже показатель. Нобелевку по медицине давали популяризатору и горячему стороннику лоботомии Антониу Монишу, Джон Нэш оказался шизофреником - верил что его преследуют коммунисты в красных галстуках, и как-то заявил, что хочет стать императором Антарктиды, Люк Монтанье (известный в прошлом вирусолог) верил что коронавирус создали в лаборатории а вакцинация большая ошибка. Зря викой-то не пользуетесь со своего недивана 😏
    Maxim Leo
    35 минут назад
    -
    0
    +
    Rishat, Один профессор не понимает, а разрабы из OpenAI все понимают, но они видимо бездари, потому что у них нет нобелевки( Даже САМА нейросеть понимает, как она работает и может объяснить. Действительно чудеса.Другое дело, что объем данных огромный и тяжело ее поведение контролировать. Но суть ее работы предельно ясна.
alexey al
18 часов назад
-
1
+
Все правильно сказал. Только не ИИ, а нейронки. До ИИ человечеству еще лет 5-10 работать)) И да, нейронки не поддаются адекватному анализу: Имеем набор матриц. Перемножаем их. Получаем некий результат. Здесь нет никакой логики и здравого смысла. Просто тюнинг коэффициентов элементов матриц, подгоняя их под целевой результат... Нервная система живых организмов по той причине и функционирует, что для нее не требуется какого либо "разумного замысла", и уж тем более, знания математики (кстати, нейронки хуже всего справляются... С математическими задачами. Тк там думать надо. Это касается и GPT4, 5, и всех остальных) И неважно, насколько умный человек. Увидев некий набор матриц и графов на миллиарды элементов, он нникогда в жизни не сможет аналитически прийти к выводу, на каких данных обучалась нделатьа, или что умеет делать)
    Дмитрий Глебов
    15 часов назад
    -
    -1
    +
    alexey, почему нет лигики и смысла? я не специалист, но из того что видел, могу сказать нейросети - это результат обработки потока информации - на входе у вас много "пикселей", они содержат в себе не просто белый шум, а какие-то закономерности, далее этот поток просеивают через более узкий, так сказать, проход, где происходит отсеивание незначительных ( с точки зрения правильной работы нейросети ) данных и концентрация на нужных закономерностях и дальше какая-то обработка, видимо для усиления выделенных корреляций. Т.е. готовая нейросеть содержит в себе концентрированную информацию и наверняка эту информацию можно извлечь и изучить. Программы в двоичном коде или на ассемблере тоже тяжело разбирать, но есть соответствующие инструменты, так и тут.
    +
      ещё комментарии
Alexander Lipkovich
21 час назад
-
0
+
сильному ИИ не нужны большие вычислительные мощности, и он предельно прост для понимания..А катастрофические сценарии возможны от человеческой алчности и эгоизма, а не от ИИ как такового, это просто инструмент, как и мозг самого человека только инструмент..
    Павел Мудрый
    19 часов назад
    -
    2
    +
    Alexander, вы такой умный. Вам надо баллотироваться в думу.
    alexey al
    18 часов назад
    -
    3
    +
    Alexander, бред же несете, сударь.
    Евгений Потемкин
    15 часов назад
    -
    0
    +
    Alexander, Хорошая, здравая мысль. Это действительно так. Но сейчас наберут многочисленные анонимы-эгоисты и начнут орать типа "если ты такой умный и тд и тп. Это из тех, кто ИСКРЕНЕ думает, что он сам всего добился, своим умом .... и ни кому ничего не должен. Хотя банальная истина - что Человек - продукт общества, хотя и БАНАЛЬНА, но не перестаёт быть истиной. И ограничения .накладывается обществом должны соблюдать. А инстинкт грести только в себя хоть и древнейший, на выжили все же альтруисты... Вот так,как-то, думаю с утра..:)
    Алексей Остолецкий
    11 часов назад
    -
    1
    +
    Alexander, за построение 3д карты нейронной сети комнатной мухи хотят дать нобелевскую премию. И это ещё не идёт речь о более сложных структурах. Так что фраза "предельно прост для понимания" звучит как бред пьяного Себастьяна. Попробуйте понять, как работает нейронная сеть муравья, например. А на земле около 5 миллионов живых видов организмов. И все различаются. Цифровая нейронка не исключение. Так что учёный не зря переживает.
    +
      ещё комментарии
Вчера, 07:36
Полина Меньшова

Слонам свойственны развитая мимика, умение сотрудничать и помогать друг другу, а также хорошая память. Ученые из Германии и Франции обнаружили, что эти животные способны узнать сотрудников зоопарка, которые работали с ними больше 10 лет назад.

Вчера, 13:02
Елизавета Александрова

Ранее семь разных компаний заявили, что смогут забрать с Красной планеты капсулы с образцами, собранными марсоходом Perseverance. Теперь в этом соревновании неожиданно появился новый сильный игрок.

Позавчера, 17:11
Елизавета Александрова

Одна из самых первых галактик во Вселенной оказалась совсем не тем, что ученые ожидали увидеть всего через несколько сотен миллионов лет после Большого взрыва.

Позавчера, 17:11
Елизавета Александрова

Одна из самых первых галактик во Вселенной оказалась совсем не тем, что ученые ожидали увидеть всего через несколько сотен миллионов лет после Большого взрыва.

5 октября
Любовь

Международная исследовательская группа совместно с биологами из Университета Мэриленда (США) обнаружила у геккона токи (Gekko gecko) способность воспринимать низкочастотные вибрации с помощью саккула — органа во внутреннем ухе, который, как считалось ранее, отвечает исключительно за равновесие и ориентацию в пространстве.

8 октября
Полина Меньшова

Внимание тесно связано с воспоминаниями: мы фокусируемся на том, что как-то связано с информацией из долговременной памяти. Однако, как выяснили ученые из Канады и США, эта связь сложнее, чем принято было считать, и иногда не помогает, а мешает сконцентрироваться.

25 сентября
Татьяна

Марс не всегда был холодным и сухим, как сейчас. Все больше фактов говорит о том, что миллиарды лет назад там текли водные потоки. А значит, была плотная атмосфера, создающая парниковый эффект и поддерживающая воду в жидком состоянии. Примерно 3,5 миллиарда лет назад вода исчезла, газовая оболочка существенно поредела. Почему? Ответ буквально лежит на поверхности, выяснили американские геологи.

17 сентября
Unitsky String Technologies Inc.

Инженеры из Белоруссии разработали альтернативный маршрут для более быстрой, безопасной и доступной перевозки грузов по сравнению с использованием Северного морского пути (СМП). Проект предусматривает организацию высокоскоростных грузопассажирских перевозок, в том числе транзитных, что станет альтернативой другим видам транспорта, в первую очередь авиации, за счет высокой скорости передвижения и уровня комфорта.

12 сентября
Полина Меньшова

Ученые из Китая и Великобритании обнаружили, что мозг собаки синхронизируется с человеческим во время общения. При этом на зрительный контакт и поглаживание животные реагируют по-разному, а нетипичная мозговая активность может сигнализировать о психических заболеваниях.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно