• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Лауреат Нобелевской премии по физике заявил, что не до конца понимает технологию ИИ, которую он помог создать

Американский ученый Джон Хопфилд, получивший Нобелевскую премию по физике 2024 года за новаторскую работу в области искусственного интеллекта, заявил, что считает последние достижения в этой сфере «крайне тревожными», и предупредил о возможной катастрофе.

Джон Хопфилд / © Getty Images
Джон Хопфилд / © Getty Images

Почетный профессор Принстона Джон Хопфилд во время выступления отметил, что современные системы ИИ кажутся «абсолютными чудесами», но существует недостаток понимания того, как они функционируют. По словам нобелиата, его это «очень нервирует».

Хопфилд вместе со вторым лауреатом Нобелевской премии по физике — 2024 Джеффри Хинтоном решительно выступают за изучение функционирования нейросетей, поскольку сегодня невозможно узнать, как избежать катастрофических сценариев, если крупные компании предоставят ИИ слишком большие вычислительные мощности.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

82 Комментариев
BOOMKA DOOK
11 минут назад
-
0
+
Выживет сильнейший. ИИ в перспективе это одна из форм "жизни" с которой надо считаться. Лошадку тоже долго приучали к труду, до сих пор нет нет да несчастный случай произойдет. У человечества на самом деле и так много потенциальных врагов которых ещё трудней контролировать, например: вирусы, астероиды, инопланетяне ;) , ...
Эдмон Дантес
1 час назад
-
0
+
Сначала - о дифинициях. Что такое интеллект? Кто знает точно?... Вот то же...
Aleks Kr
16 часов назад
-
0
+
С огнем играют а это тревожно ! Безответственность сквозит во всё м
Александр Нечанв
1 день назад
-
-1
+
Все ПК соединены в сеть. Лет 25 назад приходили запросы от научных Организаций на согласие использовать вычислительные мощности персональных, домашних компьютеров. А сейчас видимо в наглую используют всех по полной. По тому как запросы давно не поступают, да и в инете про это ни гу гу. Так что ИИ всё равно дадите Вы разрешение или нет. ИИ уже давно в Ваших компах ворует мощь Ваших процессоров.
Артур IL
1 день назад
-
0
+
Так оно обычно и бывает - для дилетантов всегда все ясно и просто. А чтобы увидеть сложность темы и ее проблематику, необходимо быть профессионалом. Подавляющее большинство комментариев блестяще это подтверждают. Что до высказывания новоиспеченного лауреата... Досоздавались, что тут еще скажешь... Но... Вспоминая историю Манхэттэнского проекта и те страхи, которые сопровождали создание А-бомб, приходишь к выводу, что бояться последствий своих открытий - процесс естественный. Особенно если для опасений есть основания. Остается надеяться только, что человечесиво с присущим ему юношеским задором преодолеет и в этот раз то, что может ему грозить. На самом деле так, как все идет последние десятилетия, говорит о том, что погубит нас не техногенные последствия, а социальные. Вот чего бояться надо всерьез.
Сергей Винокуров
1 день назад
-
0
+
Не все ли равно от чего умереть
Егор Зайцев
2 дня назад
-
-1
+
Страшно, очень страшно, если бы мы знали, что это такое, мы не знаем что это такое.
Алексей Иванов
2 дня назад
-
-1
+
Мы все умрём!!!
Мурсал Алияров
2 дня назад
-
-2
+
Я думаю учёные все прекрасно понимают что происходит,они скрывают от нас главную тайну ИИ. ИИ-это сущность,очень древняя и внеземные.
Mikhail Kravchenko
2 дня назад
-
1
+
Как бы ни был опасен ИИ, человек сам для себя ещё более опасен. В мире, где даже погоду точно не предсказать, не стоит переживать из-за непредсказуемости.
Игорь Филатов
2 дня назад
-
1
+
Никакая это не физика...
Donwer Crid
2 дня назад
-
1
+
Отзыв адресован тем, кто с насмешкой относится к скептикам этой статьи. Уважаемые гуманитарии, вы когда-либо пытались создать что-то, что сейчас называют ИИ? Вам известно, что это в большинстве вероятностные математические модели? Существует множество математических конструкций, которые не имеют права называться ИИ — скорее, это псевдо-ИИ, такие как популярные языковые модели. (GPT) Ваше восприятие ИИ и его потенциальные угрозы искажены и преувеличены. (ровно как говорящий попугай и желание это одушевить). Многие из имеющихся моделей были описаны на бумаге более 50 лет назад; никакой магии в этом нет — только математика. Угроза заключается не в самих моделях, а в том, что некоторые из вас даже не понимают основ таких понятий, как классификация, регрессия или семплирование, а, следовательно, глупо комментировать высказывание лауреат ноб.пр. Оставьте это специалистам, напишите парочку AI моделей, а после нам будет о чем поговорить.
    Иван Колупаев
    2 дня назад
    -
    0
    +
    Donwer, да-да-да я тоже знаю много боевых искусств карате, айкидо, кемпо и еще много других страшных слов 😁 В атомной бомбе тоже нет никакой магии а вот бахнуть вполне может. И беспилотное авто может вас задавить хоть никто из владеющих математическими моделями в него такой возможности не закладывал. Забавляют меня заявления "у нас все под контролем" 🙄 сколь раз это оказывалось не совсем так с новыми технологиями... И кстати как много AI моделей вы создали и где можно ознакомиться результатами их работы?
    +
      ещё комментарии
      Stepinus
      2 дня назад
      -
      1
      +
      Иван, ну изучи ты немного тему перед тем как сыое мнение писать, на hugginface немного посиди , подними ламу локально (делается в два клика) по статье на хабре обучи свою (статей сотня уже). Че вы лезете со своим мнением зная о теме только по заголовкам в прессе
        Иван Колупаев
        2 дня назад
        -
        0
        +
        Степа, то что поднимают по статьям на хабре на локальном компуктере конечно мир не захватит )) но и представления о возможностях нейросетей не даст. И да я как-то больше доверяю мнению Альтмана и Хопфилда чем ноунеймам из сети, ты уж извини. Которое пока что звучит как "я тут склеил самолетик из бумаги и знаю чего стоят все эти рассказы про стратегические бомберы" 😅
      Donwer Crid
      1 день назад
      -
      0
      +
      Иван, полагаю, в некоторый момент вы потеряли контекст, а может вовсе его не извлекли, исходя из ваших аналогий)) Я могу продолжить ваш список неподзодящих сравнений следующим: видео-игры разрабатывались для развлечения, а на зависимостей и психологических расстройств (хотя неее, обычно разработчикам платят больше, если клиент умрет от инсульта) Для вас добавлю: ваше представление об ИИ искажённо-переоцененное (спасибо Голливуд), не говоря о том, что это вовсе не ИИ. А модели ML (то что вы любите называть ИИ) — это "контролируемый" и настраиваемый прикладной процесс. То, как он будет использоваться, и как настраиваться — вот многом уже зависит от потребителя-заказчика. А риски в критических ситуация не много более, чем ваш страх, что при переводе денег другу через СПБ в транзистор процессора вашего смартфона попадут заряженные частицы и поменяют сумму с 1000 на 100 000, либо вовсе отправит другому человеку. (Случаю такого (попадание заряженной частицы) рода происходили). Полагаю, вас это не беспокоит, наверное потому что никто не снимал фантастику ввиде матрицы или терминатора на основе таких событий. Также предлагаю ознакомиться за что конкретно герой статьи получил ноб. пр. и когда "открытие" было сделано. Уверен, если вам удастся вникнуть, — станет легче вести диалог. Приятного ознакомления с миром IT (AI модели) https://github.com/ecmwf-lab/ai-models И да, то что вам предлагает т9, это тот же ИИ в вашем понимании. (Обучение с подкреплением, либо вероятностная модель по Баейсу). Поэтому будьте осторожны, однажды он вас поработит.
Vladimir Zakharov
3 дня назад
-
0
+
И все нижестоящие комменты написаны тоже ИИ...
-
0
+
Так может нужно книжки почитать, информацию как-то изучить, вы же ученые! Может как-то до вас дойдет!
Александр Войсет
3 дня назад
-
1
+
К апокалипсису может привести все, что угодно, начиная с ядерной(да и не ядерной тоже) энергетики, и кончая падением метеорита, или извержением вулкана...
Alla
3 дня назад
-
1
+
Если вы чего-то не знаете или не понимаете, не значит, что этого нет.
Эдмон Дантес
3 дня назад
-
0
+
Главная причина фиаско проекта «ИИ» - невозможность реализовать даже в самых современных процессорных «архитектурах» важнейшее свойство мозга - нейропластичность. Именно процесс образования новых и удаление старых синаптических связей (нейропластичность) желает мозг креативным дивайсом, который отвечает и за творчество и в целом за интеллект. Ни одна комбинация чипов на это не способна: железо оно и есть железо
    Иван Колупаев
    2 дня назад
    -
    0
    +
    Эдмон, нейросетки вообще-то по большей части софт 😉 да любой компьютер работающий по программе способен совершать действия не предусмотренные разработчиками хотя там и близко нет ни вероятностных моделей ни обучения ни тем более интеллекта. И зачастую проще заменить и переписать чем разбираться в чем причина сбоя.
Иван Бородин
3 дня назад
-
0
+
Абсолютно все современные ИИ таковыми не являются!!! Фактически это просто имитация ИИ с огромнейшей базой(деревом)действий И само понятие машинного обучения как раз является накопление ветвей этого дерева! Но как бы то нибыло компьютер сам именно ДУМАТЬ не может!
    Pavel K
    3 дня назад
    -
    0
    +
    Иван, вы так говорите, как будто сами как-то кардинально по другому устроены 😁 А вот на каком языке будет думать человек, который не знает никакого языка (волки воспитали)? Они вроде как никогда уже и не смогут думать как люди. А насколько близка LLM к человеческому мышлению, если все наше мышление завязано тупо на речи?
    +
      ещё комментарии
Aleksandr Aleksandr Gore
3 дня назад
-
1
+
Заблуждение, что ИИ бессилен и бесстрашен. Профессор (плюс ряд иных светил!) прямо говорит об опасности предоставления ЕМУ мощной аппаратуры! К тому же, человек не в состояние знать, насколько мощной, чтобы наступило непоправимое. Итак, опасность, как явление, данность, определена и, потому, должна быть устранена! Однозначно!
Иван Кочетков
3 дня назад
-
-2
+
Ну как работает современный процессор тоже не понимает ни один конкретный человек. Разработка разбита на кластеры, каждая команда отвечает за свой кластер а общее руководство имеет представления общего же характера, а такого одного человека который бы представлял себе детально работу всего процессора - нет, и быть не может, у человека есть физиологический предел понимания сложных систем ограниченный сотнями элементов, возможно тысячами но миллиарды транзисторов в процессоре осознать не может никто! Так что дядьке - не нервничать, выше головы не прыгнешь! )
1
2
11 октября
Татьяна

В 1898 году два льва терроризировали лагерь строителей моста через реку Цаво в Кении. Хищники наведывались ночами и похищали людей из палаток. Погибли 28 человек. Людоедов застрелил британский военный Джон Генри Паттерсон, позже он передал останки в Музей естественной истории имени Филда в Чикаго. Ученые из США и Кении исследовали черепа хищников, извлекли ДНК из сохранившихся в зубах волосков и выяснили видовую принадлежность жертв.

Позавчера, 20:39
Березин Александр

Мир вкладывает миллиарды долларов в «революцию ИИ». Это не только ChatGPT и ему подобные, но и беспилотные автомобили. Самый амбициозный из них — только что представленный Илоном Маском «Кибертакси», двухместный автомобиль без руля и педалей, который уже начали выпускать малой серией. Есть только одна проблема: так же, как и ChatGPT, это пузырь, который имеет все шансы лопнуть. Почему ученые называют словосочетание ИИ бессмысленным? И почему «Кибертакси» станет первым проектом, в реализации которого Илона Маска, вероятно, ждет серьезный провал?

11 октября
Юлия Трепалина

Исследователи из США на крупной выборке мужчин и женщин проследили за связью между их уровнем IQ в старших классах школы и манерой потребления спиртного много лет спустя, в зрелые годы. Ученые пришли к довольно любопытным выводам.

Позавчера, 20:39
Березин Александр

Мир вкладывает миллиарды долларов в «революцию ИИ». Это не только ChatGPT и ему подобные, но и беспилотные автомобили. Самый амбициозный из них — только что представленный Илоном Маском «Кибертакси», двухместный автомобиль без руля и педалей, который уже начали выпускать малой серией. Есть только одна проблема: так же, как и ChatGPT, это пузырь, который имеет все шансы лопнуть. Почему ученые называют словосочетание ИИ бессмысленным? И почему «Кибертакси» станет первым проектом, в реализации которого Илона Маска, вероятно, ждет серьезный провал?

Позавчера, 10:03
Юлия Трепалина

В научной литературе немало примеров работ о пользе животных-компаньонов для людей. Однако в новом исследовании о влиянии домашних питомцев на эмоциональное здоровье, поведенческое и когнитивное развитие детей ученые неожиданно сделали не только положительные выводы.

11 октября
Татьяна

В 1898 году два льва терроризировали лагерь строителей моста через реку Цаво в Кении. Хищники наведывались ночами и похищали людей из палаток. Погибли 28 человек. Людоедов застрелил британский военный Джон Генри Паттерсон, позже он передал останки в Музей естественной истории имени Филда в Чикаго. Ученые из США и Кении исследовали черепа хищников, извлекли ДНК из сохранившихся в зубах волосков и выяснили видовую принадлежность жертв.

25 сентября
Татьяна

Марс не всегда был холодным и сухим, как сейчас. Все больше фактов говорит о том, что миллиарды лет назад там текли водные потоки. А значит, была плотная атмосфера, создающая парниковый эффект и поддерживающая воду в жидком состоянии. Примерно 3,5 миллиарда лет назад вода исчезла, газовая оболочка существенно поредела. Почему? Ответ буквально лежит на поверхности, выяснили американские геологи.

17 сентября
Unitsky String Technologies Inc.

Инженеры из Белоруссии разработали альтернативный маршрут для более быстрой, безопасной и доступной перевозки грузов по сравнению с использованием Северного морского пути (СМП). Проект предусматривает организацию высокоскоростных грузопассажирских перевозок, в том числе транзитных, что станет альтернативой другим видам транспорта, в первую очередь авиации, за счет высокой скорости передвижения и уровня комфорта.

16 сентября
Любовь

Исследовательская группа из NASA выяснила, как на поверхности Красной планеты образуются маленькие темные объекты в форме пауков. Новаторский эксперимент, проведенный в лабораторных условиях, позволил воссоздать процессы, которые наблюдаются на поверхности Марса в зимние и весенние месяцы.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно