Уведомления
Авторизуйтесь или зарегистрируйтесь, чтобы оценивать материалы, создавать записи и писать комментарии.
Авторизуясь, вы соглашаетесь с правилами пользования сайтом и даете согласие на обработку персональных данных.
Представлен способ обезвреживания искусственного интеллекта
Специалисты представили новый способ, как можно обезвредить искусственный интеллект. Он сможет помочь в тех случаях, если ИИ выйдет из-под контроля.
С деталями можно ознакомиться в издании Business Insider, которое ссылается на Институт изучения машинного интеллекта. Сейчас, когда уровень развития искусственного интеллекта достаточно высок, многие всерьез опасаются, что ИИ выйдет из-под контроля. Не дать катастрофе случиться поможет новый метод, представленный специалистами Оксфордского университета, а также их коллегами из лаборатории DeepMind, которая принадлежит корпорации Google.
Отметим, что именно DeepMind создала компьютерную программу AlphaGo, которая победила в древнекитайскую игру го чемпиона Европы по этой дисциплине Фаня Хуэя. Причем сделала это с разгромным счетом 5:0. В этом событии нет, на первый взгляд, ничего странного: ранее компьютер уже побеждал человека в шашки и шахматы. Но дело в том, что в го почти никак нельзя перебрать все возможные комбинации. Поэтому ИИ сложно предсказать дальнейший вариант развития событий.
Это и многие другие достижения в вопросе развития ИИ породили вполне понятные опасения. И сейчас эксперты хотят обезопасить мир от «злобных роботов». По словам специалистов, речь идет о некой «большой красной кнопке». Работа, посвященная ей, представляет собой математический анализ, который описывает методы построения защиты. «Если такой агент (имеется в виду ИИ) работает в режиме реального времени под наблюдением человека, то иногда может возникнуть ситуация, при которой оператор будет вынужден нажать на большую красную кнопку, чтобы остановить агента от выполнения действий, опасных для самого агента или его окружения», – говорится в исследовании.
Считается, что на каком-то этапе искусственный интеллект сможет найти лазейку, которая позволит ему игнорировать обычную стоп-команду человека. Целью новой исследовательской работы стал поиск способов предотвратить нечто подобное.
Напомним, ранее научно-популярный портал Naked Science попытался разобраться в вопросах, связанных с возможными угрозами со стороны ИИ. Были рассмотрены разные прогнозы от различных специалистов: как условно «позитивные», так и условно «негативные».
Исследователи, изучающие косаток, заметили, что представители одной из рыбоядных популяций этих китообразных часто нападают на морских свиней и убивают их, но после не съедают добычу. Международная команда ученых из США, Великобритании и Канады попыталась объяснить причины такого поведения.
В Стокгольме огласили имена лауреатов премии этого года в области физиологии или медицины.
Когда Стив Джобс в 2007 году на конференции MacWorld Expo впервые показал iPhone, он еще сам не представлял, куда нас это заведет. Айфон был далеко не первым смартфоном (гаджет, который можно было назвать умным телефоном, анонсировала компания IBM еще в 1992 году). Но именно он задал высокую планку для умных портативных устройств и во многом определил вектор их развития, а значит, и будущие возможности – уже не только для смартфонов, но и для соцсетей, игр и разнообразных сервисов, которых в тот момент еще даже не существовало. Всего через несколько лет оказалось, что в плоской «коробочке» помещается целый мир – и сегодня эта метафора кажется все более зловещей.
Космический телескоп «Гайя» позволил оценить скорость движения рекордного количества звезд в Млечном Пути, и новые данные оказались крайне неожиданными. Дело не только в том, что его масса упала во много раз: стало ясно, что сама структура Галактики не такая, как думали раньше.
Ученые применили современные методы, такие как микрокомпьютерная томография, получили сотни рентгеновских изображений и создали 3D-модель. Все для того, чтобы обнаружить следы опухоли во внутренней части черепа человека, жившего в середине IV века нашей эры. Это самый ранний случай менингиомы на Пиренейском полуострове — из тех, что известны науке.
К неожиданным прорывам в науке могут привести даже пустяковые вещи вроде чаинок в чашке. Парадокс чайного листа только на первый взгляд кажется неважным, но в свое время им заинтересовался Альберт Эйнштейн. Решение парадокса ученый представил на одной из конференций, чем вызвал ажиотаж у академической публики. Докладу немецкого физика уже почти 100 лет, а самому парадоксу — гораздо больше, но исследователи во всем мире продолжают использовать его в своих работах. Например, недавно китайские ученые применили его для изучения концентрации веществ в наножидкостях.
Космический телескоп «Гайя» позволил оценить скорость движения рекордного количества звезд в Млечном Пути, и новые данные оказались крайне неожиданными. Дело не только в том, что его масса упала во много раз: стало ясно, что сама структура Галактики не такая, как думали раньше.
Исследователи из Швеции и Великобритания узнали, что «правило деревьев» да Винчи, который считал, что толщина всех веток дерева на любой его высоте, сложенная вместе, равна толщине ствола, ошибочно на микроуровне.
Ученые применили современные методы, такие как микрокомпьютерная томография, получили сотни рентгеновских изображений и создали 3D-модель. Все для того, чтобы обнаружить следы опухоли во внутренней части черепа человека, жившего в середине IV века нашей эры. Это самый ранний случай менингиомы на Пиренейском полуострове — из тех, что известны науке.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
ПонятноИз-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
ПонятноНаши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
ПонятноМы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
ПонятноМы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.
Понятно
Комментарии