• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Ученый предположил, как ИИ может уничтожить человечество

Во время интервью для издания The Times Стюарт Рассел, профессор компьютерных наук из Калифорнийского университета в Беркли, рассказал про риски, связанные с развитием искусственного интеллекта (ИИ).

Стюарт Рассел / ©The TimesСтюарт Рассел / ©The Times

Стюарт Рассел считает, что один из рисков связан с тем, что перед сильным ИИ ставят цель, а он самостоятельно выбирает метод ее достижения, который может быть связан с непредвиденными побочными эффектами, гибельными для человечества. Ученый привел в качестве примера случай, в котором перед ИИ стоит задача остановить или замедлить изменение климата, и ИИ решает, что лучший способ — избавить Землю от людей.

Ученый также сравнил появление сверхмощного ИИ со вторжением более развитой инопланетной цивилизации. Раньше профессор считал, что подобные системы появятся лишь через десятки лет, но теперь, глядя на Chat GPT, он сократил свой прогноз до ближайшего десятилетия.

Рассел выразил обеспокоенность тем, что политики выступают за слабое регулирование сферы искусственного интеллекта, несмотря на то, что многие эксперты видят потенциальную угрозу этой технологии. Недавно он вместе с Илоном Маском и Стивом Возняком подписал открытое письмо с предложением остановить развитие ИИ, чтобы научиться сначала его контролировать.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

4 Комментария
dima ilunga
21.05.2023
-
0
+
Человечество способно уничтожить себя само. И безо всяких нейросетей: была бы кнопка, а кретин найдётся.
RUSLAN ALIEV
15.05.2023
-
0
+
Ученый предположил, как ИИ может уничтожить человечество😀. Предположить и я могу, а ученые должны доказывать и искать пути решения проблемы если есть такова. А человечество и без ИИ почти уничтожила само себя 😀. Скоро люди будут жрать друг друга, потому что уже ресурсы на исходе. А этот ученый просто захотел прославиться своими сраными предположениями на актуальную тему 😀вот видите ли какой я умник 😀
Предстоящие мероприятия
13 июля, 14:06
Максим Абдулаев

Кит живет двести лет, умеет пробивать головой полуметровый лед и поет океанский джаз голосом несмазанной дверной петли. Охотоморские гренландские киты — это не просто многотонные ледоколы. Это древние узники, которые остались жить в Охотском море со времен последнего оледенения. Это счастливцы, которые смогли пережить гарпуны китобоев XIX-XX веков, но сегодня уязвимы не меньше. Чтобы спасти этих поразительных китов, российским ученым и команде фонда «Природа и люди» приходится: считать хвосты, читать биографии по шрамам, прятать подростков от хищников, стрелять (спутниковыми метками) с парамоторов и тяжелых дронов. Рассказываем, как устроена жизнь гренландских китов России и кто помогает им не исчезнуть навсегда с лица планеты.

13 июля, 20:02
Evgenia Vavilova

Деревья растут и люди стареют не потому, что идет время, а из-за происходящих внутри них процессов. Но можно ли сказать, что именно эти процессы порождают время? Ученый создал маленькую Вселенную, в которой дела обстоят именно так.

14 июля, 10:10
Марк Чернов

Ученые выяснили, что золото владеет уникальной «техникой самообороны», которая защищает его от потускнения. Оказалось, атомы на поверхности этого металла способны самостоятельно перестраиваться в особые защитные структуры. Такой невидимый барьер блокирует контакт с кислородом и подавляет процесс окисления в триллион раз эффективнее, чем поверхность любого другого металла.

13 июля, 14:06
Максим Абдулаев

Кит живет двести лет, умеет пробивать головой полуметровый лед и поет океанский джаз голосом несмазанной дверной петли. Охотоморские гренландские киты — это не просто многотонные ледоколы. Это древние узники, которые остались жить в Охотском море со времен последнего оледенения. Это счастливцы, которые смогли пережить гарпуны китобоев XIX-XX веков, но сегодня уязвимы не меньше. Чтобы спасти этих поразительных китов, российским ученым и команде фонда «Природа и люди» приходится: считать хвосты, читать биографии по шрамам, прятать подростков от хищников, стрелять (спутниковыми метками) с парамоторов и тяжелых дронов. Рассказываем, как устроена жизнь гренландских китов России и кто помогает им не исчезнуть навсегда с лица планеты.

12 июля, 12:24
Марк Чернов

Ученые выяснили, почему интервальное голодание для многих оказывается эффективнее обычных диет. Исследование показало, что ограничение времени для приема пищи избавляет худеющего от изнуряющего ощущения жесткого контроля и при этом позволяет сбросить ровно столько же, сколько при скрупулезном подсчете калорий.

13 июля, 20:02
Evgenia Vavilova

Деревья растут и люди стареют не потому, что идет время, а из-за происходящих внутри них процессов. Но можно ли сказать, что именно эти процессы порождают время? Ученый создал маленькую Вселенную, в которой дела обстоят именно так.

25 июня, 16:20
Любовь С.

Вселенная может оказаться «замкнутой» глобальной структурой, где свет от далеких галактик способен возвращаться к наблюдателю с разных направлений. Именно такой сценарий не удалось исключить авторам нового масштабного обзора. Проверить его предсказания астрономы смогут уже в ближайшие годы.

25 июня, 15:09
Марк Чернов

Ученые впервые на молекулярном уровне доказали, что обычная вода одновременно состоит из двух разных жидких состояний — более плотного и менее плотного, которые непрерывно сменяют друг друга. Раз молекулярная «двойственность» действительно существует, это подтверждает спорную 30-летнюю гипотезу. Новое открытие поможет, наконец, объяснить десятки «странных» физических аномалий воды, включая ее расширение при замерзании и парадоксальное изменение вязкости под давлением.

26 июня, 14:54
Максим Абдулаев

Американские ветеринары установили, что длина шага передних лап у пожилых собак отражает возрастные изменения в работе мозга. Когда у собак развивается деменция, шаги их передних лап становятся короче, причем эта связь не зависит от хронической боли в суставах.

[miniorange_social_login]