Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Эксперт по машинному обучению призывает остановить распространение ИИ
Один из самых активных в мире критиков искусственного интеллекта (ИИ) выступил с решительным призывом не только поставить разработку ИИ на паузу, но и вообще положить ему конец — пока он не прикончил человечество.
В статье журнала Time специалист по искусственному интеллекту Элиезер Юдковски, который более двух десятилетий предупреждал об антиутопическом будущем, которое наступит, когда развитие прогресса достигнет сильного искусственного интеллекта (AGI) или технологической сингулярности, снова бьет тревогу.
Юдковски отметил, что, хотя он хвалит тех, кто подписал недавнее открытое письмо Института будущего жизни, в том числе генерального директора SpaceX Илона Маска и соучредителя Apple Стива Возняка, призывающих к шестимесячной паузе в разработке ИИ, он сам не подписал письмо, потому что считает, что этих мер не достаточно.
«Я воздержался от подписи, потому что считаю, что письмо преуменьшает серьезность ситуации и требует слишком мало для ее решения».
Юдковски говорит, что его меньше беспокоит «конкурентный с людьми» ИИ, чем «то, что будет после».
«Мы определенно не можем заранее рассчитать, что и когда произойдет, и в настоящее время кажется возможным, что исследователи перейдут критические границы, даже не заметив этого».
По мнению Юдковски, есть только одно решение для надвигающейся экзистенциальной угрозы со стороны «враждебного» сверхчеловеческого сильного ИИ: «просто отключить его» любыми необходимыми средствами.
Следует «выключить все большие кластеры графических процессоров (большие компьютерные фермы, где совершенствуются самые мощные ИИ)», — написал Юдковски. «Отключить все большие тренировочные циклы. Установить потолок того, сколько вычислительной мощности кому-либо разрешено использовать для обучения системы ИИ, и снизить его в ближайшие годы, чтобы компенсировать более эффективные алгоритмы обучения. Никаких исключений для правительств и вооруженных сил».
Если кто-то, кто посвятил свою жизнь изучению опасностей антиутопического будущего ИИ, говорит, что человечество движется к тому, о чем он предупреждал, его мнение, возможно, стоит выслушать.
6,1 тыс
Telegram 
Дзен 
VK Предстоящие мероприятия
Проблема непереносимости глютена затрагивает до 150 миллионов человек во всем мире. Единственный выход — полностью исключить этот компонент из рациона. Однако существующий безглютеновый хлеб практически не содержит белка и клетчатки, быстро повышает уровень сахара и черствеет. При этом существующие зарубежные рецептуры разработаны под импортное сырье и технологии, что не позволяет применять их к российскому сырью. Ученые Пермского Политеха разработали новые рецептуры безглютенового хлеба и исследовали влияние многокомпонентных мучных композиций и добавок на его качество. Они впервые в России создали смеси, в которых по сравнению с существующими отечественными аналогами в два-три раза больше белка и жиров, а углеводов — на 30-50 процентов меньше.
Международная группа ученых сопоставила тексты двух тысяч поп-хитов из США, Германии, Японии и Гонконга за 1970-2019 годы и обнаружила, что рост «я»-местоимений характерен исключительно для западных культур. Причем в странах Восточной Азии этот показатель остается низким.
В древних породах, миллиарды лет пролежавших на дне исчезнувшего озера, ученые обнаружили сложный органический материал. Речь идет о макромолекулярном углероде, найденном в кратере Езеро. Некоторые из этих пород ранее привлекли внимание исследователей необычными пятнами и текстурами, которые рассматриваются как возможные следы микробной активности. Открытие подтверждает, что сложная органика может сохраняться на Красной планете на протяжении длительного времени.
Паразитические организмы иногда не учитывают, что сами могут оказаться целью паразита более высокого уровня. Сосредотачивая все свои силы на инфицировании и размножении, они остаются беззащитными перед агрессивным специализированным нахлебником.
Интригующие испытания высотного ракетного двигателя Raptor Vacuum для корабля Starship, верхней ступени сверхракеты Илона Маска, парадоксальны. Его работа на уровне моря уже сама по себе загадка. Ведь, по классическим представлениям, высотные двигатели на уровне моря корректно не работают. А сопло RaptorVAC на наземном стенде извергает реактивную струю без всяких признаков нарушения работы. Как такое может быть?
В нижних и верхних слоях Урана астрономы впервые зарегистрировали угарный газ и циановодород. Новые данные указали на то, что недра планеты могут быть значительно обогащены кислородом. Это открытие поможет разрешить давнюю загадку о том, сформировался ли Уран иначе, чем его ближайший сосед Нептун, или их образование шло по схожему сценарию.
Хотя длительность помех не превышала десяти секунд, это первый известный случай такого рода. Обычно спутникам не хватает мощности для создания радиосигналов той силы, что нужна для подобных помех.
Вначале Reuters опубликовал статью о взаимоотношениях SpaceX и Пентагона, которую миллиардер --- традиционно для его отношений с этим изданием — назвал фейком. Опровергая ее тезисы, он обнародовал информацию, не представленную ранее публично.
Исследователи опросили более 60 тысяч испытуемых из разных стран и выяснили: чем больше человек зациклен на себе, тем холоднее он к своему партнеру. Правда, снижение накала страстей не всегда плохо, у этого есть и положительные стороны.
[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Комментарий на проверке
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Аккаунт заблокирован!
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Что-то пошло не так!
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
ПонятноЛучшие материалы
Войти
Вконтакте
По e-mail
Google
Яндекс ID
Ваша заявка получена
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Последние комментарии