Представлен способ обезвреживания искусственного интеллекта
Специалисты представили новый способ, как можно обезвредить искусственный интеллект. Он сможет помочь в тех случаях, если ИИ выйдет из-под контроля.
С деталями можно ознакомиться в издании Business Insider, которое ссылается на Институт изучения машинного интеллекта. Сейчас, когда уровень развития искусственного интеллекта достаточно высок, многие всерьез опасаются, что ИИ выйдет из-под контроля. Не дать катастрофе случиться поможет новый метод, представленный специалистами Оксфордского университета, а также их коллегами из лаборатории DeepMind, которая принадлежит корпорации Google.
Отметим, что именно DeepMind создала компьютерную программу AlphaGo, которая победила в древнекитайскую игру го чемпиона Европы по этой дисциплине Фаня Хуэя. Причем сделала это с разгромным счетом 5:0. В этом событии нет, на первый взгляд, ничего странного: ранее компьютер уже побеждал человека в шашки и шахматы. Но дело в том, что в го почти никак нельзя перебрать все возможные комбинации. Поэтому ИИ сложно предсказать дальнейший вариант развития событий.
Это и многие другие достижения в вопросе развития ИИ породили вполне понятные опасения. И сейчас эксперты хотят обезопасить мир от «злобных роботов». По словам специалистов, речь идет о некой «большой красной кнопке». Работа, посвященная ей, представляет собой математический анализ, который описывает методы построения защиты. «Если такой агент (имеется в виду ИИ) работает в режиме реального времени под наблюдением человека, то иногда может возникнуть ситуация, при которой оператор будет вынужден нажать на большую красную кнопку, чтобы остановить агента от выполнения действий, опасных для самого агента или его окружения», – говорится в исследовании.
Считается, что на каком-то этапе искусственный интеллект сможет найти лазейку, которая позволит ему игнорировать обычную стоп-команду человека. Целью новой исследовательской работы стал поиск способов предотвратить нечто подобное.
Напомним, ранее научно-популярный портал Naked Science попытался разобраться в вопросах, связанных с возможными угрозами со стороны ИИ. Были рассмотрены разные прогнозы от различных специалистов: как условно «позитивные», так и условно «негативные».
Telegram 
Дзен 
VK Процессы, сопровождающие жизнь черных дыр, интересуют не только теоретиков. Ученые уже знают, что энергия и частицы могут покидать черные дыры и теперь работают над способами эту энергию использовать.
Ученые подтвердили один из самых необычных эффектов Общей теории относительности (ОТО): вращение Земли действительно «увлекает» за собой пространство-время. Новое измерение, выполненное с помощью спутника LARES-2, оказалось примерно в 10 раз точнее предыдущих и еще сильнее ограничило пространство для альтернативных теорий гравитации.
В отличие от микрочастиц, наночастицы не только эффективно проходят барьеры дыхательной системы, но и идут дальше — в мозг человека. До сих пор масштаб смертности от них был неясен. Теперь исследователи выяснили, что она доходит до миллионов человек каждый год.
Кит живет двести лет, умеет пробивать головой полуметровый лед и поет океанский джаз голосом несмазанной дверной петли. Охотоморские гренландские киты — это не просто многотонные ледоколы. Это древние узники, которые остались жить в Охотском море со времен последнего оледенения. Это счастливцы, которые смогли пережить гарпуны китобоев XIX-XX веков, но сегодня уязвимы не меньше. Чтобы спасти этих поразительных китов, российским ученым и команде фонда «Природа и люди» приходится: считать хвосты, читать биографии по шрамам, прятать подростков от хищников, стрелять (спутниковыми метками) с парамоторов и тяжелых дронов. Рассказываем, как устроена жизнь гренландских китов России и кто помогает им не исчезнуть навсегда с лица планеты.
Ученые выяснили, почему интервальное голодание для многих оказывается эффективнее обычных диет. Исследование показало, что ограничение времени для приема пищи избавляет худеющего от изнуряющего ощущения жесткого контроля и при этом позволяет сбросить ровно столько же, сколько при скрупулезном подсчете калорий.
Деревья растут и люди стареют не потому, что идет время, а из-за происходящих внутри них процессов. Но можно ли сказать, что именно эти процессы порождают время? Ученый создал маленькую Вселенную, в которой дела обстоят именно так.
Вселенная может оказаться «замкнутой» глобальной структурой, где свет от далеких галактик способен возвращаться к наблюдателю с разных направлений. Именно такой сценарий не удалось исключить авторам нового масштабного обзора. Проверить его предсказания астрономы смогут уже в ближайшие годы.
Ученые впервые на молекулярном уровне доказали, что обычная вода одновременно состоит из двух разных жидких состояний — более плотного и менее плотного, которые непрерывно сменяют друг друга. Раз молекулярная «двойственность» действительно существует, это подтверждает спорную 30-летнюю гипотезу. Новое открытие поможет, наконец, объяснить десятки «странных» физических аномалий воды, включая ее расширение при замерзании и парадоксальное изменение вязкости под давлением.
Американские ветеринары установили, что длина шага передних лап у пожилых собак отражает возрастные изменения в работе мозга. Когда у собак развивается деменция, шаги их передних лап становятся короче, причем эта связь не зависит от хронической боли в суставах.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Последние комментарии