• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Ученый предположил, как ИИ может уничтожить человечество

Во время интервью для издания The Times Стюарт Рассел, профессор компьютерных наук из Калифорнийского университета в Беркли, рассказал про риски, связанные с развитием искусственного интеллекта (ИИ).

Стюарт Рассел / ©The TimesСтюарт Рассел / ©The Times / Автор: Андрей Чернов

Стюарт Рассел считает, что один из рисков связан с тем, что перед сильным ИИ ставят цель, а он самостоятельно выбирает метод ее достижения, который может быть связан с непредвиденными побочными эффектами, гибельными для человечества. Ученый привел в качестве примера случай, в котором перед ИИ стоит задача остановить или замедлить изменение климата, и ИИ решает, что лучший способ — избавить Землю от людей.

Ученый также сравнил появление сверхмощного ИИ со вторжением более развитой инопланетной цивилизации. Раньше профессор считал, что подобные системы появятся лишь через десятки лет, но теперь, глядя на Chat GPT, он сократил свой прогноз до ближайшего десятилетия.

Рассел выразил обеспокоенность тем, что политики выступают за слабое регулирование сферы искусственного интеллекта, несмотря на то, что многие эксперты видят потенциальную угрозу этой технологии. Недавно он вместе с Илоном Маском и Стивом Возняком подписал открытое письмо с предложением остановить развитие ИИ, чтобы научиться сначала его контролировать.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

5 Комментариев
dima ilunga
21.05.2023
-
0
+
Человечество способно уничтожить себя само. И безо всяких нейросетей: была бы кнопка, а кретин найдётся.
RUSLAN ALIEV
15.05.2023
-
0
+
Ученый предположил, как ИИ может уничтожить человечество😀. Предположить и я могу, а ученые должны доказывать и искать пути решения проблемы если есть такова. А человечество и без ИИ почти уничтожила само себя 😀. Скоро люди будут жрать друг друга, потому что уже ресурсы на исходе. А этот ученый просто захотел прославиться своими сраными предположениями на актуальную тему 😀вот видите ли какой я умник 😀
Предстоящие мероприятия
21 октября, 14:25
Юлия Трепалина

Насколько счастливым нужно быть человеку, чтобы это начало благоприятно сказываться на продолжительности жизни? Ученые определили минимальный уровень субъективного ощущения благополучия, или счастья, преодолев который, оно становится фактором, позитивно влияющим на здоровье населения страны.

21 октября, 13:22
Адель Романова

Новую миссию к Урану, по нынешним планам, нужно запустить в начале 2030-х годов, но зонд к тому времени вряд ли успеют построить и подготовить. Это может оказаться даже к лучшему: ученые обдумывают вариант использования для полета к ледяному гиганту новейшей космической системы Starship, которая сейчас проходит испытания. Она могла бы добраться до Урана на несколько лет быстрее, чем предполагается по классической схеме.

20 октября, 17:27
Адель Романова

У астрономов появилось возможное объяснение феномену, который обнаружили несколько лет назад: у некоторых карликовых планет и даже астероидов есть кольца, как у газовых гигантов. Ученые предположили, что кольца малых тел формируются благодаря их неправильной форме и, как следствие, неравномерно распределенной гравитации.

17 октября, 22:00
Любовь С.

В густой оранжевой дымке Титана, где температура опускается до минус 180 градусов Цельсия, происходят невозможные по земным меркам химические реакции: молекула циановодорода (HCN), рожденная в атмосфере из азота, метана и этана, могла сформировать кристаллы, объединяющие вещества противоположной природы.

19 октября, 10:00
Любовь С.

Первый официальный документ, описывающий принцип действий в случае возможного контакта с внеземной цивилизацией, был принят Международной академией астронавтики (IAA) в 1989 году. С тех пор декларацию неоднократно пересматривали, а ее обновленную версию, адаптированную под реалии XXI века, ученые разработали совместно с участниками проекта по поиску инопланетян SETI.

18 октября, 11:06
Evgenia Vavilova

Число несущих их клеток не просто увеличивается, механизм отбора связан с эволюционным преимуществом половых клеток. Узнать об этом помог улучшенный метод секвенирования ДНК.

13 октября, 11:10
Илья Гриднев

Согласно новой гипотезе, сознание возникает не только из-за активности нейронов, но и благодаря физическим процессам — электромагнитным полям от движения жидкости в мозге. Эта модель, как и ее предшественники, пока носит теоретический характер, но предлагает нестандартный взгляд на проблему синхронизации работы разных отделов мозга.

26 сентября, 11:41
ИИМК РАН

Археологи Института истории материальной культуры РАН (ИИМК РАН), при поддержке фонда «История отечества» в ходе раскопок обнаружили на всемирно известной стоянке каменного века Костенки-17 в Воронежской области редчайшие украшения из зубов песца и окаменелой раковины, а также уникальный для этого времени нуклеус из бивня мамонта для снятия заготовок.

7 октября, 11:46
Игорь Байдов

Экспедиционное судно «Эндьюранс» более века называли самым прочным деревянным судном, когда-либо построенным человеком. Но находка, сделанная на дне моря, и изучение старых писем раскрыли неприятную правду. Легендарный «Эндьюранс» Шеклтона вовсе не был непобедимым левиафаном. Напротив, он имел фатальные недостатки, а капитан знал об этом еще до того, как ушел в роковое плавание к берегам Антарктиды.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно