• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Ученый предположил, как ИИ может уничтожить человечество

Во время интервью для издания The Times Стюарт Рассел, профессор компьютерных наук из Калифорнийского университета в Беркли, рассказал про риски, связанные с развитием искусственного интеллекта (ИИ).

Стюарт Рассел / ©The TimesСтюарт Рассел / ©The Times

Стюарт Рассел считает, что один из рисков связан с тем, что перед сильным ИИ ставят цель, а он самостоятельно выбирает метод ее достижения, который может быть связан с непредвиденными побочными эффектами, гибельными для человечества. Ученый привел в качестве примера случай, в котором перед ИИ стоит задача остановить или замедлить изменение климата, и ИИ решает, что лучший способ — избавить Землю от людей.

Ученый также сравнил появление сверхмощного ИИ со вторжением более развитой инопланетной цивилизации. Раньше профессор считал, что подобные системы появятся лишь через десятки лет, но теперь, глядя на Chat GPT, он сократил свой прогноз до ближайшего десятилетия.

Рассел выразил обеспокоенность тем, что политики выступают за слабое регулирование сферы искусственного интеллекта, несмотря на то, что многие эксперты видят потенциальную угрозу этой технологии. Недавно он вместе с Илоном Маском и Стивом Возняком подписал открытое письмо с предложением остановить развитие ИИ, чтобы научиться сначала его контролировать.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

7 Комментариев

Ilunga Masan
2 недели назад
-
0
+
Человечество способно уничтожить себя само. И безо всяких нейросетей: была бы кнопка, а кретин найдётся.
RUSLAN ALIEV
3 недели назад
-
0
+
Ученый предположил, как ИИ может уничтожить человечество😀. Предположить и я могу, а ученые должны доказывать и искать пути решения проблемы если есть такова. А человечество и без ИИ почти уничтожила само себя 😀. Скоро люди будут жрать друг друга, потому что уже ресурсы на исходе. А этот ученый просто захотел прославиться своими сраными предположениями на актуальную тему 😀вот видите ли какой я умник 😀
Лев Григорьев
3 недели назад
-
0
+
Если ставить перед ИИ идиотские задачи, то и его решения будут идиотскими... Вопрос: как не допустить идиотов к постановке задач ИИ?.. С другой стороны, как уследить за тем, чтобы не нашелся умный дебил, который разработает ИИ, способный к самостоятельной постановке самому себе задач?

Предстоящие мероприятия
3 июня
Анна Новиковская

Разделочные доски можно найти почти на любой кухне по всему миру. Однако международная группа исследователей доказала, что эти кухонные инструменты иногда не то, чем кажутся.

9 часов назад
Александр Березин

Предложенные тепловыделяющие элементы для атомных реакторов позволяют им работать без перегрузки топлива много лет подряд. Это крайне актуально для АЭС малой мощности, на Крайнем Севере или в любых других зонах, удаленных от единых энергосистем, включая тропические острова.

Сегодня, 11:00
НИУ ВШЭ

При планировании времени люди неосознанно используют пространство, потому что не обладают рецепторами для восприятия времени. Ученые из Института когнитивных нейронаук НИУ ВШЭ выяснили, что подсчет часов, дней недели и месяцев автоматически активирует горизонтальную ментальную линию в сознании русскоговорящих участников.

2 июня
Анна Новиковская

Думают ли умные люди быстрее? Согласно результатам исследования группы ученых из Германии и Испании, не всегда, и в случае решения сложных задач отдельные преимущества оказываются за людьми с менее развитым интеллектом.

2 июня
Мария Азарова

Европейское космическое агентство проведет первую в истории прямую трансляцию с Марса: во время нее свежие изображения Красной планеты планируют показывать зрителям каждые 50 секунд на протяжении часа. Начало — в 19:00 по московскому времени.

2 июня
Ольга Иванова

Американские ученые пришли к выводу, что возможность запоминать новую информацию, воображение, умение логически рассуждать — то, что формирует интеллект — связаны с особенностями личности. В зависимости от того, насколько человек тревожен или депрессивен, экстраверт или интроверт, у него может быть разный уровень когнитивных способностей. Выборка исследования составила более двух миллионов человек более чем из 50 стран.

2 июня
Анна Новиковская

Думают ли умные люди быстрее? Согласно результатам исследования группы ученых из Германии и Испании, не всегда, и в случае решения сложных задач отдельные преимущества оказываются за людьми с менее развитым интеллектом.

12 мая
Александр Березин

В американской прессе обсуждают острый вопрос: почему, несмотря на санкции и потолок цен, в России не просто не было спада, но и, судя по ряду параметров, в 2023-м начался экономический подъем? Чтобы разрешить эту загадку, The Wall Street Journal обратился к спутниковым данным по мониторингу окислов азота. С их помощью журналисты обнаружили, что российские власти, кажется, дают миру неправильную статистику, а на самом деле в России, видимо, происходит глубокий спад. Насколько верна такая оценка? И что на самом деле случится с российской экономикой в этом году?

11 мая
Анна Новиковская

Большая часть алмазов, образующихся в недрах Земли, выносятся ближе к поверхности небольшими, но мощными извержениями породы. Однако австралийские исследователи обнаружили, что на деле эти извержения подпитываются громадными «тепловыми столбами», начинающимися у самого ядра нашей планеты.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно