Уведомления
Авторизуйтесь или зарегистрируйтесь, чтобы оценивать материалы, создавать записи и писать комментарии.
Авторизуясь, вы соглашаетесь с правилами пользования сайтом и даете согласие на обработку персональных данных.
Исследование показало, что люди не смогут управлять сверхразумными машинами
Международная группа ученых продемонстрировала, что управление сверхразумным искусственным интеллектом невозможно.
Работа опубликована в Journal of Artificial Intelligence Research. Опасность, которая может исходить от сверхразумного ИИ, как известно, в красках описана в блокбастерах о Терминаторе. Представители разных научных дисциплин, в том числе специалисты из Центра людей и машин Института развития человека Макса Планка, решили проверить, насколько человек способен управлять сверхинтеллектуальными роботами.
«Сверхразумная машина, которая управляет миром — звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» — говорит один из авторов исследования Мануэль Себриан, руководитель группы цифровой мобилизации в Центре людей и машин Института Макса Планка.
Чтобы ответить на этот вопрос, ученые использовали моделирование и теоретические расчеты. Как выяснилось, даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.
Дело в том, что, согласно теории информатики, любой из алгоритмов такого сдерживания — будь то программы об этических принципах или ограничение доступа к внешнему миру — уязвим и при определенных обстоятельствах вполне способен отключить сам себя. Поэтому специалисты делают вывод, что управлять сверхразумным ИИ человек попросту не сможет и ситуация рано или поздно может выйти из-под контроля.
«Мы утверждаем, что полное сдерживание в принципе невозможно из-за фундаментальных ограничений, присущих самому вычислению. Сверхразум будет содержать программу, которая включает в себя все программы, осуществляемые при помощи универсальной машины Тьюринга, потенциально столь же сложной, как состояние мира», — заключают исследователи.
Telegram 
Дзен 
VK Исследователи заново изучили образец породы, который пылился в музее Канзаса на протяжении нескольких десятилетий, и обнаружили в нем клешнеподобный передний придаток одного из древних существ. Новый анализ показал, что это не просто древний членистоногий, а, возможно, самый ранний известный представитель хелицеровых — группы, в которую входят пауки, скорпионы и мечехвосты. Открытие, вероятно, заставит ученых пересмотреть историю появления этой группы животных.
На дне Копенгагенской гавани обнаружили обломки флагманского военного корабля «Даннеброге», пролежавшие там 225 лет. Корабль взорвался и затонул во время Копенгагенского морского сражения 2 апреля 1801 года, состоявшегося между датским флотом и британским флотом под командованием вице-адмирала Горацио Нельсона.
В поисках бодрости многие из нас интуитивно тянутся к кофе или сладостям, но эффект от них часто оказывается кратковременным. Современный темп жизни не позволяет анализировать меню и режим, однако есть блюда и напитки, которые помогут выдержать стресс, особенно весной.
Во время тестирования новой технологии, предназначенной для обнаружения структур, погребенных глубоко под землей, археологи обнаружили, что под руинами древнего города Буто в Египте расположено какое-то крупное здание — возможно, гробница или храм.
Ученые Кабардино-Балкарского государственного университета им. Х.М. Бербекова более десяти лет изучают уникальные свойства кефирных зерен — природных симбиотических сообществ микроорганизмов, собранных в высокогорных районах Кавказа. Исследования показывают, они могут стать основой для новых методов лечения кишечных заболеваний, восстановления иммунитета и даже создания космического питания.
Международная команда ученых обнаружила окаменелости древнего примата, который оказался ближайшим известным родственником линии, ведущей к современным человекообразным обезьянам. Исследователи описали новый род и вид — Masripithecus moghraensis, который жил на Земле 17-18 миллионов лет назад. Открытие может существенно изменить научные представления о происхождении человекообразных обезьян. Ранее их происхождение чаще связывали с Восточной Африкой, однако новые данные указали на другой регион.
Марсоход «Персеверанс» обнаружил в камнях на кромке кратера Езеро спектральные признаки минерала корунда, из которого на Земле образуются рубины и сапфиры. Такие спектры на Красной планете зарегистрировали впервые. Теперь ученые пытаются понять, при каких процессах он мог там сформироваться, ведь условия на Марсе заметно отличаются от тех, в которых корунд обычно образуется на Земле.
За 10 лет лежания в почве сигаретные фильтры не растворились, а лишь замаскировались под грязь. Их пластиковые волокна распались на микрочастицы, намертво склеились с минералами и превратились во вторичный микропластик. Более того, на пятом году гниения мусор начал отравлять землю с новой силой.
Единственной планетой Солнечной системы, подходящей для терраформирования, остается Марс. Однако способы разогреть его с помощью суперпарниковых газов требовали веков времени. Согласно расчетам из новой работы, микрочастицы особой формы могут сделать то же самое куда быстрее и дешевле.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Последние комментарии