Уведомления
Авторизуйтесь или зарегистрируйтесь, чтобы оценивать материалы, создавать записи и писать комментарии.
Авторизуясь, вы соглашаетесь с правилами пользования сайтом и даете согласие на обработку персональных данных.
Исследование показало, что люди не смогут управлять сверхразумными машинами
Международная группа ученых продемонстрировала, что управление сверхразумным искусственным интеллектом невозможно.
Работа опубликована в Journal of Artificial Intelligence Research. Опасность, которая может исходить от сверхразумного ИИ, как известно, в красках описана в блокбастерах о Терминаторе. Представители разных научных дисциплин, в том числе специалисты из Центра людей и машин Института развития человека Макса Планка, решили проверить, насколько человек способен управлять сверхинтеллектуальными роботами.
«Сверхразумная машина, которая управляет миром — звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» — говорит один из авторов исследования Мануэль Себриан, руководитель группы цифровой мобилизации в Центре людей и машин Института Макса Планка.
Чтобы ответить на этот вопрос, ученые использовали моделирование и теоретические расчеты. Как выяснилось, даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.
Дело в том, что, согласно теории информатики, любой из алгоритмов такого сдерживания — будь то программы об этических принципах или ограничение доступа к внешнему миру — уязвим и при определенных обстоятельствах вполне способен отключить сам себя. Поэтому специалисты делают вывод, что управлять сверхразумным ИИ человек попросту не сможет и ситуация рано или поздно может выйти из-под контроля.
«Мы утверждаем, что полное сдерживание в принципе невозможно из-за фундаментальных ограничений, присущих самому вычислению. Сверхразум будет содержать программу, которая включает в себя все программы, осуществляемые при помощи универсальной машины Тьюринга, потенциально столь же сложной, как состояние мира», — заключают исследователи.
Российские инженеры приступили к опытно-конструкторским работам в рамках проекта истребителя-перехватчика, получившего обозначение МиГ-41. В будущем самолет должен заменить МиГ-31 и дополнить Су-57 пятого поколения.
Компания Dynetics провела успешные тесты перспективной воздушной системы X-61A Gremlins, предполагающей запуск БПЛА с борта самолета-носителя. Во время испытания беспилотник находился в непосредственной близости от C-130.
Согласно представленным данным, российских специалистов исключили из экспертной группы, которая обсуждает перспективы создания новой станции на орбите Луны. Ранее стало известно о противоречиях технического характера, возникших между Россией и Западом.
Пациент — уроженец Исландии Феликс Гретарссон, лишившийся верхних конечностей более 23 лет назад из-за несчастного случая на работе — уже идет на поправку.
Решение Совета по космосу РАН повременить с созданием сверхтяжелой ракеты для полетов на Луну звучит странно. Куда откладывать лунную ракету, когда в США средство полета туда отправится в космос уже в 2022 году? Если присмотреться к ситуации внимательно, все еще хуже. Starship — не просто ракета для полетов к Луне и Марсу, а технологическое решение, которое навсегда перевернет военно-политический баланс на Земле. Попробуем разобраться, откуда у «Роскосмоса» такое нежелание посылать людей в дальний космос и как прорывной проект Илона Маска может оказаться дорогой к настоящей Звезде Смерти.
Особенно это касается витаминов D и A, а также холестерина и незаменимых аминокислот. Все эти показатели у детей, которых кормили в соответствии с веганским меню, оказались значительно ниже, чем у малышей, придерживавшихся обычной диеты.
В России приступили к летным испытаниям нового Ту-214. По имеющимся данным, речь идет о третьем и заключительном экземпляре Ту-214ПУ, изготовленном по контракту от 2017 года.
Попытки нашей страны создать замену сверхмассовому биплану советской эпохи терпят неудачи вот уже тридцать лет. Причина проста: кризис легкомоторной авиации в целом. Когда-то самая передовая часть авиастроения сегодня застряла на решениях большой древности — и без резкого изменения всей концепции "летающего такси" так и не увидит заметных результатов.
Наступление Мирового океана на сушу, как правило, связывают с глобальным потеплением. Однако испанские геологи описали еще одну проблему, которая только усугубляет ситуацию. Они подсчитали, что из-за проседания почв территория, на которой проживает 19% населения Земли, окажется ниже уровня моря уже к 2040 году.
Messe Dusseldorf 
Сколтех 
библиотека № 214 им. Ю. А. Гагарина 
Гиперион 
Level One 
Архэ 
OHI-S 
СПК Центр 
ВДНХ 
Московский физико-технологический институт 
Expo Kama 
Системный консалтинг 
АММ 
ВДНХ 
MVK
Комментарии