• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Ученый предположил, как ИИ может уничтожить человечество

Во время интервью для издания The Times Стюарт Рассел, профессор компьютерных наук из Калифорнийского университета в Беркли, рассказал про риски, связанные с развитием искусственного интеллекта (ИИ).

Стюарт Рассел / ©The TimesСтюарт Рассел / ©The Times / Автор: Андрей Чернов

Стюарт Рассел считает, что один из рисков связан с тем, что перед сильным ИИ ставят цель, а он самостоятельно выбирает метод ее достижения, который может быть связан с непредвиденными побочными эффектами, гибельными для человечества. Ученый привел в качестве примера случай, в котором перед ИИ стоит задача остановить или замедлить изменение климата, и ИИ решает, что лучший способ — избавить Землю от людей.

Ученый также сравнил появление сверхмощного ИИ со вторжением более развитой инопланетной цивилизации. Раньше профессор считал, что подобные системы появятся лишь через десятки лет, но теперь, глядя на Chat GPT, он сократил свой прогноз до ближайшего десятилетия.

Рассел выразил обеспокоенность тем, что политики выступают за слабое регулирование сферы искусственного интеллекта, несмотря на то, что многие эксперты видят потенциальную угрозу этой технологии. Недавно он вместе с Илоном Маском и Стивом Возняком подписал открытое письмо с предложением остановить развитие ИИ, чтобы научиться сначала его контролировать.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

5 Комментариев
dima ilunga
21.05.2023
-
0
+
Человечество способно уничтожить себя само. И безо всяких нейросетей: была бы кнопка, а кретин найдётся.
RUSLAN ALIEV
15.05.2023
-
0
+
Ученый предположил, как ИИ может уничтожить человечество😀. Предположить и я могу, а ученые должны доказывать и искать пути решения проблемы если есть такова. А человечество и без ИИ почти уничтожила само себя 😀. Скоро люди будут жрать друг друга, потому что уже ресурсы на исходе. А этот ученый просто захотел прославиться своими сраными предположениями на актуальную тему 😀вот видите ли какой я умник 😀
25 ноября
МГПУ

Профессор Московского городского педагогического университета, доктор психологических наук Борис Рыжов описал феномен любви как сложную систему взаимосвязанных мотиваций, которые фиксируются на одном объекте, создавая прочную эмоциональную связь. Это объяснение помогает понять, почему любовь способна настолько глубоко влиять на все аспекты жизни человека и как происходит формирование устойчивой привязанности.

Вчера, 19:01
Андрей

Группа европейских ученых четверть века собирала ископаемые остатки пищеварительной системы древних животных, пытаясь ответить на вопрос, как появились и расселились динозавры. Изучив более 500 окаменелостей с кусочками непереваренной пищи, исследователи поэтапно реконструировали эволюцию ранних динозавров и объяснили, как им удалось достичь господства среди позвоночных.

Вчера, 12:49
Елизавета Александрова

Под названием «космические лучи» скрывается не только свет, то есть фотоны, но и протоны, электроны и другие частицы. Все они летят к нам от звезд. Иногда ученые могут даже с уверенностью сказать, от каких именно. К примеру, в земную атмосферу постоянно врываются солнечные протоны. Недавно одна из обсерваторий уловила прибывшие на нашу планету электроны и позитроны с беспрецедентной энергией. Они точно «родом» не с Солнца, но у ученых есть предположения, откуда они могут быть.

25 ноября
Полина Меньшова

Многие одинокие люди считают, что окружающие не разделяют их взглядов. Психологи из США решили проверить, так ли это на самом деле, и обнаружили общую особенность у людей с недостаточным количеством социальных связей.

25 ноября
МГПУ

Профессор Московского городского педагогического университета, доктор психологических наук Борис Рыжов описал феномен любви как сложную систему взаимосвязанных мотиваций, которые фиксируются на одном объекте, создавая прочную эмоциональную связь. Это объяснение помогает понять, почему любовь способна настолько глубоко влиять на все аспекты жизни человека и как происходит формирование устойчивой привязанности.

23 ноября
Андрей

Китайские палеонтологи раскопали богатый окаменелостями комплекс, раскрывающий разнообразную пищевую цепь пресноводного озера времен раннего юрского периода. Тысячи находок рыб, среди которых и новые виды, древних родственников акул и даже плезиозавров показали пеструю фауну, сохранившуюся после вымирания почти 200 миллионов лет назад.

30 октября
Елизавета Александрова

Под рыжим верхним слоем с виду обычного камня открылся целый калейдоскоп довольно неожиданных оттенков. Это особенно интересно с учетом того, где лежит камень — в марсианском кратере, который по всем признакам когда-то был озером.

16 ноября
Evgenia

Международная коллаборация физиков под руководством ученых из Йельского университета в США представила самые убедительные на сегодня подтверждения существования нового типа сверхпроводящих материалов. Доказательство существования нематической фазы вещества — научный прорыв, открывающий путь к созданию сверхпроводимости совершенно новым способом.

25 ноября
Полина Меньшова

Многие одинокие люди считают, что окружающие не разделяют их взглядов. Психологи из США решили проверить, так ли это на самом деле, и обнаружили общую особенность у людей с недостаточным количеством социальных связей.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно