• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Лауреат Нобелевской премии по физике заявил, что не до конца понимает технологию ИИ, которую он помог создать

Американский ученый Джон Хопфилд, получивший Нобелевскую премию по физике 2024 года за новаторскую работу в области искусственного интеллекта, заявил, что считает последние достижения в этой сфере «крайне тревожными», и предупредил о возможной катастрофе.

Джон Хопфилд / © Getty Images
Джон Хопфилд / © Getty Images

Почетный профессор Принстона Джон Хопфилд во время выступления отметил, что современные системы ИИ кажутся «абсолютными чудесами», но существует недостаток понимания того, как они функционируют. По словам нобелиата, его это «очень нервирует».

Хопфилд вместе со вторым лауреатом Нобелевской премии по физике — 2024 Джеффри Хинтоном решительно выступают за изучение функционирования нейросетей, поскольку сегодня невозможно узнать, как избежать катастрофических сценариев, если крупные компании предоставят ИИ слишком большие вычислительные мощности.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

12 Комментариев
Кристина Хачатрян
1 час назад
-
1
+
Стоит прочитать англоязычную статью, на которую ссылается Алена — в ней болеё развернуто изложено, в чем суть опасений. Вкратце, систему подобной сложности, величины и мощности на выходе сложно предсказать, а значит, контролировать. Всё, что не поддаётся контролю и прогнозированию, представляет угрозу там, где среда должна быть контролируемой — в науке, медицине, административной деятельности, etc. Потенциал для неэтичного использования продуктов ИИ "в быту" огромен уже сейчас. В общем, пока в комментариях сравнивают ИИ с собакой, учёные слегка обеспокоены)
SonVos
3 часа назад
-
-1
+
ИИ, в некотором смысле, подобен домашней собаке, которую, со временем, люди начинают воспринимать, как человека и забывают, что это стайное животное. А для стайного животного иерархически значимы лишь вожак и сучка вожака, а всех остальных оно считает равными себе и иной раз даже ниже себя. И лишь у очень немногих пород развита социальная составлющая. Поэтому не удивительно, что много случаев, когда мимишная псина вдруг, ни с того, ни с сего отгрызает половину лица какому-то члену семьи.
Ольга Гарифуллина
3 часа назад
-
-1
+
Когда наши ученые дорастут до уровня лауреатов этой престижной премии. Американцы, англичане. По химии какие мощные разработки по изучению структуры белка. Печально…
Rishat Sultanov
4 часа назад
-
7
+
Лауреат Нобелевской премии, который придумал ИИ, не до конца понимает как она работает, а вы тут жалкая кучка дилетантов во всем разобрались и сделали выводы один обсурдней другого.
alexey al
7 часов назад
-
1
+
Все правильно сказал. Только не ИИ, а нейронки. До ИИ человечеству еще лет 5-10 работать)) И да, нейронки не поддаются адекватному анализу: Имеем набор матриц. Перемножаем их. Получаем некий результат. Здесь нет никакой логики и здравого смысла. Просто тюнинг коэффициентов элементов матриц, подгоняя их под целевой результат... Нервная система живых организмов по той причине и функционирует, что для нее не требуется какого либо "разумного замысла", и уж тем более, знания математики (кстати, нейронки хуже всего справляются... С математическими задачами. Тк там думать надо. Это касается и GPT4, 5, и всех остальных) И неважно, насколько умный человек. Увидев некий набор матриц и графов на миллиарды элементов, он нникогда в жизни не сможет аналитически прийти к выводу, на каких данных обучалась нделатьа, или что умеет делать)
    Дмитрий Глебов
    5 часов назад
    -
    -1
    +
    alexey, почему нет лигики и смысла? я не специалист, но из того что видел, могу сказать нейросети - это результат обработки потока информации - на входе у вас много "пикселей", они содержат в себе не просто белый шум, а какие-то закономерности, далее этот поток просеивают через более узкий, так сказать, проход, где происходит отсеивание незначительных ( с точки зрения правильной работы нейросети ) данных и концентрация на нужных закономерностях и дальше какая-то обработка, видимо для усиления выделенных корреляций. Т.е. готовая нейросеть содержит в себе концентрированную информацию и наверняка эту информацию можно извлечь и изучить. Программы в двоичном коде или на ассемблере тоже тяжело разбирать, но есть соответствующие инструменты, так и тут.
    +
      ещё комментарии
Alexander Lipkovich
11 часов назад
-
-2
+
сильному ИИ не нужны большие вычислительные мощности, и он предельно прост для понимания..А катастрофические сценарии возможны от человеческой алчности и эгоизма, а не от ИИ как такового, это просто инструмент, как и мозг самого человека только инструмент..
    Павел Мудрый
    8 часов назад
    -
    1
    +
    Alexander, вы такой умный. Вам надо баллотироваться в думу.
    alexey al
    7 часов назад
    -
    3
    +
    Alexander, бред же несете, сударь.
    Евгений Потемкин
    4 часа назад
    -
    -2
    +
    Alexander, Хорошая, здравая мысль. Это действительно так. Но сейчас наберут многочисленные анонимы-эгоисты и начнут орать типа "если ты такой умный и тд и тп. Это из тех, кто ИСКРЕНЕ думает, что он сам всего добился, своим умом .... и ни кому ничего не должен. Хотя банальная истина - что Человек - продукт общества, хотя и БАНАЛЬНА, но не перестаёт быть истиной. И ограничения .накладывается обществом должны соблюдать. А инстинкт грести только в себя хоть и древнейший, на выжили все же альтруисты... Вот так,как-то, думаю с утра..:)
    Алексей Остолецкий
    24 минуты назад
    -
    1
    +
    Alexander, за построение 3д карты нейронной сети комнатной мухи хотят дать нобелевскую премию. И это ещё не идёт речь о более сложных структурах. Так что фраза "предельно прост для понимания" звучит как бред пьяного Себастьяна. Попробуйте понять, как работает нейронная сеть муравья, например. А на земле около 5 миллионов живых видов организмов. И все различаются. Цифровая нейронка не исключение. Так что учёный не зря переживает.
Вчера, 07:36
Полина Меньшова

Слонам свойственны развитая мимика, умение сотрудничать и помогать друг другу, а также хорошая память. Ученые из Германии и Франции обнаружили, что эти животные способны узнать сотрудников зоопарка, которые работали с ними больше 10 лет назад.

Вчера, 13:02
Елизавета Александрова

Ранее семь разных компаний заявили, что смогут забрать с Красной планеты капсулы с образцами, собранными марсоходом Perseverance. Теперь в этом соревновании неожиданно появился новый сильный игрок.

Вчера, 20:10
Елизавета Александрова

Неуловимые гипотетические, но вполне возможные объекты могли бы ответить на многие вопросы современной астрофизики. У исследователей появилась новая идея о том, где и как их можно обнаружить.

5 октября
Любовь

Международная исследовательская группа совместно с биологами из Университета Мэриленда (США) обнаружила у геккона токи (Gekko gecko) способность воспринимать низкочастотные вибрации с помощью саккула — органа во внутреннем ухе, который, как считалось ранее, отвечает исключительно за равновесие и ориентацию в пространстве.

8 октября
Полина Меньшова

Внимание тесно связано с воспоминаниями: мы фокусируемся на том, что как-то связано с информацией из долговременной памяти. Однако, как выяснили ученые из Канады и США, эта связь сложнее, чем принято было считать, и иногда не помогает, а мешает сконцентрироваться.

Позавчера, 17:11
Елизавета Александрова

Одна из самых первых галактик во Вселенной оказалась совсем не тем, что ученые ожидали увидеть всего через несколько сотен миллионов лет после Большого взрыва.

25 сентября
Татьяна

Марс не всегда был холодным и сухим, как сейчас. Все больше фактов говорит о том, что миллиарды лет назад там текли водные потоки. А значит, была плотная атмосфера, создающая парниковый эффект и поддерживающая воду в жидком состоянии. Примерно 3,5 миллиарда лет назад вода исчезла, газовая оболочка существенно поредела. Почему? Ответ буквально лежит на поверхности, выяснили американские геологи.

17 сентября
Unitsky String Technologies Inc.

Инженеры из Белоруссии разработали альтернативный маршрут для более быстрой, безопасной и доступной перевозки грузов по сравнению с использованием Северного морского пути (СМП). Проект предусматривает организацию высокоскоростных грузопассажирских перевозок, в том числе транзитных, что станет альтернативой другим видам транспорта, в первую очередь авиации, за счет высокой скорости передвижения и уровня комфорта.

12 сентября
Полина Меньшова

Ученые из Китая и Великобритании обнаружили, что мозг собаки синхронизируется с человеческим во время общения. При этом на зрительный контакт и поглаживание животные реагируют по-разному, а нетипичная мозговая активность может сигнализировать о психических заболеваниях.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно