• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
06.10.2018
Редакция Naked Science
2 096

Ученый выступил против предоставления ИИ человеческих прав

С развитием систем с искусственным интеллектом и предоставлением Саудовской Аравией гражданства роботу Софии специалисты все чаще стали задумываться, в какой момент можно начать считать ИИ личностью. Профессор Роман Ямпольский уверен, что это приведет к катастрофе.

2411280611
©Wikipedia / Автор: Milonia Larcius

Согласно закону человек не единственная личность в обществе. В США корпорации получили права на свободу слова и религии. У некоторых естественных явлений также появились права вроде тех, что есть у человека. Однако в двух вышеупомянутых случаях требовались изменения в правовой системе. Новый аргумент дал шанс на то, что системы искусственного интеллекта воспринимались бы как личности — без законодательных изменений, судебных решений или других пересмотров существующих законов.

 

Юрист Шон Байер показал, что в Америке кто угодно может дать личностность компьютерной системе, сделав ее подконтрольной обществу с ограниченной ответственностью (ООО). Если этот маневр рассматривается в суде, то ИИ также может обладать имуществом, подавать в суд, нанимать юристов и пользоваться свободой слова наряду с другими законными правами. В результате таких перемен может пострадать человек, пишет в статье для портала The Conversation доцент факультета вычислительной техники и информатики Луисвилльского университета Роман Ямпольский.

 

Предоставление ИИ прав, как у человека, требует юридического закрепления. Для начала кто-то должен учредить два ООО и передать контроль над каждой из них отдельной автономной системе или системе с искусственным интеллектом. Затем основателю необходимо сделать каждую компанию частью другой. И, в конце концов, ему необходимо уволиться из обеих организаций, оставляя каждое ООО под руководством системы ИИ другого.

 

Человекоподобный робот София стал первой системой с искусственным интеллектом, получившим гражданство / © UN

 

Согласно Ямпольскому, для этого процесса не требуется, чтобы у компьютерной системы был какой-то определенный уровень интеллекта или возможностей. Это может быть просто последовательность утверждений «если»: например, при обзоре фондового рынка и принятии решений о покупке или продаже на основании роста или снижения цен. Это  может быть либо алгоритм, случайным образом принимающий решения, либо эмуляция, либо амеба.

 

Предоставление человеческих прав компьютеру может навредить человеческому достоинству. Например, когда Саудовская Аравия дала гражданство роботу Софии, то женщины, особенно феминистки, высказались против, отмечая, что роботу предоставили больше прав, чем есть у большинства настоящих женщин в том регионе.

 

В некоторых странах у людей порой может быть меньше прав, чем у неинтеллектуального программного обеспечения и роботов. В государствах, ограничивающих права своих граждан на свободу слова, свободу вероисповедания и выражение сексуальности, у корпораций — потенциально руководимых ИИ — может быть больше свобод. Это можно считать серьезным унижением.

 

Профессор Ямпольский утверждает, что на этом риски не заканчиваются. Если системы ИИ станут умнее человека, то люди, по сути, могут стать рабами корпоративных ИИ-господ, которые будут их нанимать и увольнять. Но даже если не заходить так далеко, системы с искусственным интеллектом могут со временем получать работу в правоохранительных органах, армии и других государственных и законодательных системах наравне с человеком. Предоставление права на голосование системам, способным копировать себя, может привести к обесцениваю человеческих голосов. Это в итоге повлечет то, что во всех сферах жизни решения будут принимать корпорации, руководимые ИИ. Между тем, как отмечает в своей статье Ямпольский, на сегодня нет законов, которые могли бы препятствовать недоброжелательному ИИ, работающему над порабощением или даже уничтожением человечества путем законодательного и политического давления.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Позавчера, 19:36
Елена Кудрявцева

О том, где скрывается человеческое «я», что такое «знающие нейроны», какие страны наиболее активно развивают нейронауки и о том, почему нам важно признать наличие сознания у животных, мы поговорили с одним из самых выдающихся нейробиологов, директором Института перспективных исследований мозга МГУ имени М.В. Ломоносова, академиком Константином Анохиным.

Вчера, 12:17
Березин Александр

Данные Dark Energy Spectroscopic Instrument показали, что космологическая постоянная за время существования Вселенной постепенно меняется. Это значит, что она не совсем постоянная, а еще со значительной вероятностью исключает гипотезу о том, что источник этой «постоянной» — вакуум.

Вчера, 14:30
ПНИПУ

Каждый, кто заботится о своем здоровье, уже слышал о модной биодобавке, благодаря которой, по словам производителей, волосы, суставы и кожа станут здоровее. Ученые ПНИПУ рассказали, так ли это на самом деле, из каких животных добывают коллаген, когда организм перестает его вырабатывать в нужном количестве и как это сказывается на здоровье человека, почему женщинам он нужнее, правда ли эффективна косметика с этим белком и к чему приводят инъекции на его основе?

Позавчера, 19:36
Елена Кудрявцева

О том, где скрывается человеческое «я», что такое «знающие нейроны», какие страны наиболее активно развивают нейронауки и о том, почему нам важно признать наличие сознания у животных, мы поговорили с одним из самых выдающихся нейробиологов, директором Института перспективных исследований мозга МГУ имени М.В. Ломоносова, академиком Константином Анохиным.

7 декабря
Любовь

Одни из самых ярких объектов во Вселенной — квазары — представляют собой активные ядра галактик, питаемые центральными сверхмассивными черными дырами. Электромагнитное излучение, испускаемое этими объектами, позволяет астрономам изучать структуру Вселенной на ранних этапах ее развития, однако мощный радиоджет, исходящий от недавно обнаруженного экстремально яркого квазара J1601+3102, ставит под сомнение существующие представления о «космической заре».

7 декабря
Полина Меньшова

Со временем одни воспоминания заменяются другими, но почему люди запоминают именно то, что запоминают? На этот вопрос ответили ученые из США, проанализировав более 100 исследований эпизодической памяти.

16 ноября
Evgenia

Международная коллаборация физиков под руководством ученых из Йельского университета в США представила самые убедительные на сегодня подтверждения существования нового типа сверхпроводящих материалов. Доказательство существования нематической фазы вещества — научный прорыв, открывающий путь к созданию сверхпроводимости совершенно новым способом.

28 ноября
Елизавета Александрова

Обсерватории постоянно улавливают «мигающие» радиосигналы из глубин Вселенной. Чаще всего их источниками оказываются нейтронные звезды, которые за это и назвали пульсарами. Но к недавно обнаруженному источнику GLEAM-X J0704-37 они, по мнению астрономов, отношения не имеют.

25 ноября
Полина Меньшова

Многие одинокие люди считают, что окружающие не разделяют их взглядов. Психологи из США решили проверить, так ли это на самом деле, и обнаружили общую особенность у людей с недостаточным количеством социальных связей.

[miniorange_social_login]

Комментарии

Написать комментарий
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно