Уведомления
Авторизуйтесь или зарегистрируйтесь, чтобы оценивать материалы, создавать записи и писать комментарии.
Авторизуясь, вы соглашаетесь с правилами пользования сайтом и даете согласие на обработку персональных данных.
Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Эксперт по машинному обучению призывает остановить распространение ИИ
Один из самых активных в мире критиков искусственного интеллекта (ИИ) выступил с решительным призывом не только поставить разработку ИИ на паузу, но и вообще положить ему конец — пока он не прикончил человечество.
В статье журнала Time специалист по искусственному интеллекту Элиезер Юдковски, который более двух десятилетий предупреждал об антиутопическом будущем, которое наступит, когда развитие прогресса достигнет сильного искусственного интеллекта (AGI) или технологической сингулярности, снова бьет тревогу.
Юдковски отметил, что, хотя он хвалит тех, кто подписал недавнее открытое письмо Института будущего жизни, в том числе генерального директора SpaceX Илона Маска и соучредителя Apple Стива Возняка, призывающих к шестимесячной паузе в разработке ИИ, он сам не подписал письмо, потому что считает, что этих мер не достаточно.
«Я воздержался от подписи, потому что считаю, что письмо преуменьшает серьезность ситуации и требует слишком мало для ее решения».
Юдковски говорит, что его меньше беспокоит «конкурентный с людьми» ИИ, чем «то, что будет после».
«Мы определенно не можем заранее рассчитать, что и когда произойдет, и в настоящее время кажется возможным, что исследователи перейдут критические границы, даже не заметив этого».
По мнению Юдковски, есть только одно решение для надвигающейся экзистенциальной угрозы со стороны «враждебного» сверхчеловеческого сильного ИИ: «просто отключить его» любыми необходимыми средствами.
Следует «выключить все большие кластеры графических процессоров (большие компьютерные фермы, где совершенствуются самые мощные ИИ)», — написал Юдковски. «Отключить все большие тренировочные циклы. Установить потолок того, сколько вычислительной мощности кому-либо разрешено использовать для обучения системы ИИ, и снизить его в ближайшие годы, чтобы компенсировать более эффективные алгоритмы обучения. Никаких исключений для правительств и вооруженных сил».
Если кто-то, кто посвятил свою жизнь изучению опасностей антиутопического будущего ИИ, говорит, что человечество движется к тому, о чем он предупреждал, его мнение, возможно, стоит выслушать.
Telegram 
Дзен 
VK В рамках новой модели вспышки сверхновых существенно нарушили парниковый эффект на нашей планете. Это должно приводить к похолоданиям и даже вымиранию отдельных видов.
Почти 13 тысяч человек в 50 странах сочли женские лица более привлекательными, чем мужские: эта закономерность сохранялась вне зависимости от пола, культурной и этнической принадлежности оценивающего.
Ученые из США и Австралии обнаружили, что такой сравнительно простой физический показатель как пальцевый индекс статистически надежно отделяет тех, кто хорошо переносит большие нагрузки, от тех, кому это дается с трудом.
2020-е годы показали, что любая система международной торговли может быть разрушена в кратчайшие сроки. Ученые решили выяснить, какие государства в таких условиях смогут прокормить свое население, а какие — не совсем. Лидером, что неожиданно, оказалось очень небольшое государство с населением менее миллиона человек.
Инженер Эррол Маск заявил, что одновременно с вопросом о межпланетном перелете автоматически возникает вопрос о возвращении астронавтов на Землю.
Онлайн-шопинг, доставка еды, мобильный банкинг и стриминг кино — часть повседневности. Мы почти не задумываемся, что делает все это возможным. Ответ — облачные технологии. За каждой покупкой, переводом или просмотром фильма работает невидимая инфраструктура, без которой современные цифровые сервисы попросту остановились бы. Рассказываем, как облака изменили нашу цифровую жизнь и стали незаметным мотором современной экономики.
Вид антилоп, с ледникового периода привыкший к массовым миграциям, пытается вернуться в свой исторический ареал, когда-то достигавший Днепра. Однако их нетипичные для травоядных привычки вызывают сильнейшее отторжение у сельских жителей, предлагающих массово уничтожать их с воздуха. С экологической точки зрения возвращение этих животных весьма желательно, но как примирить их с фермерами — неясно.
Недавно вышел второй сезон сериала «Одни из нас» (TheLastofUs), созданного по сюжету популярнейшей видеоигры. Ученые Пермского Политеха решили разобраться, насколько реален сценарий грибной пандемии, превращающей людей зомби? Чем живет кордицепс и как он «ищет» своих жертв, действительно ли паразит способен эволюционировать настолько, чтобы поражать человеческий организм и подчинять себе его волю, был бы у людей шанс выжить, какие грибы уже поселились в наших телах и выручит ли нас иммунитет, сформированный тысячелетиями.
Казахстанский Алматы — город контрастов, где горы соседствуют с урбанистическими пейзажами, а бизнес-центры — с историческими кварталами. Неизменным остается одно — пробки. Ежедневно сюда приезжает более 700 тысяч автомобилей из пригородов, при этом в самом мегаполисе зарегистрировано порядка 600 тысяч транспортных средств. В результате по улицам ежедневно движется более миллиона транспортных средств.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Последние комментарии