30.04.2019
Редакция Naked Science

Профессора философии предлагают наделить алгоритмы ИИ теми же правами, что есть у животных

Сегодня ИИ не так сильно развит, чтобы быть способным страдать: ничего не стоит пнуть робота или оскорбить голосового помощника — они не затаят на вас обиды. Но, учитывая темпы развития технологий, имеет смысл быть готовым к тому, что ИИ когда-то достигнет этого уровня.

171115-boston-dynamics-robot-dog-mn-1105_ebd580983676b95977c6f7760c1aba27
©Wikipedia

Университеты по всему миру проводят крупные исследования в области искусственного интеллекта. Не уступают им и технологические компании, включая Google и Facebook. Как следствие, вполне вероятно, что скоро мы получим настоящий искусственный интеллект, сравнимый по сложности мышления с мышами или собаками. По мнению Джона Базла (John Basl), профессора Северо-Восточного университета (Бостон, США), и Эрика Швицгебеля (Eric Schwitzgebel), профессора Калифорнийского университета в Риверсайде, настало время задуматься, при каких условиях ИИ заслуживает этической защиты, которую мы обычно предоставляем животным.

 

По словам ученых, современные алгоритмы искусственного интеллекта представляют собой бесчувственные инструменты человека, которые могут автоматизировать различные действия. Возможно, однако, что когда-нибудь у ИИ появится что-то, напоминающее сознательный опыт. Готовясь к этому дню, профессора утверждают, что нам необходимо создать свод основных правил, регламентирующих отношение к ИИ, уже сейчас. В своей публикации они предполагают, что алгоритмы ИИ заслуживают такого же этического отношения и прав, какими сейчас пользуются животные.

 

Сегодня ИИ не так сильно развит, чтобы испытывать подобие каких-либо чувств, включая страдание. Ничего не стоит пнуть робота или оскорбить голосового помощника — они не затаят на вас никакой обиды. Но, учитывая современные темпы технологического развития, имеет смысл быть готовыми к тому, что ИИ когда-то все же достигнет этого уровня. 

 

«В случае исследований на животных и даже на людях соответствующие средства защиты были установлены только после того, как стали известны серьезные этические нарушения (например, в случае ненужных вивисекций, военных нацистских медицинских преступлений и исследования сифилиса Таскиги). В случае с ИИ у нас есть шанс проявить себя с лучшей стороны», — отмечают профессора. 

 

Ученые соглашаются с мнением о том, что ИИ может не заслуживать этической защиты по причине того, что у этих роботов нет сознания: то есть, если у них нет осознаваемого опыта с настоящей радостью и страданиями. Однако профессора задают более сложный философский вопрос: как мы узнаем, когда создали нечто, способное на радость и страдание? Если ИИ похож на Долорес из сериала Westworld, он сможет пожаловаться и защитить себя, инициируя обсуждение своих прав. Но если ИИ нечленоразделен, как мышь или собака, или если он по какой-то причине не может сообщить о своей внутренней жизни, то о его страданиях мы и не узнаем. Ученые констатируют трудность этого вопроса, так как специалисты в изучении сознания еще не достигли консенсуса в том, что такое сознание и как мы можем определить его присутствие.

 

Эксперты обращают внимание читателей на то, что обсуждение «риска ИИ» обычно фокусируется на рисках, которые новые технологии могут представлять для нас, людей: в этом списке — захват мира и уничтожение человечества или, по крайней мере, разрушение нашей банковской системы. Менее обсуждается этический риск, который мы представляем для ИИ из-за возможного плохого обращения с ним. В силу этого специалисты предлагают создать надзорные комитеты, которые будут оценивать передовые исследования ИИ с учетом этих вопросов.

 

«Вполне вероятно, что такие комитеты сочтут все текущие исследования ИИ допустимыми. Согласно большинству основных теорий сознания, мы все же еще не создаем ИИ с сознательным опытом, заслуживающим этического рассмотрения. Но довольно скоро мы можем пересечь эту решающую этическую линию и должны быть готовы», — заключают ученые.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
19 октября
Илья Ведмеденко

В КНР испытали монолитный твердотопливный ракетный двигатель, имеющий самую большую тягу в мире. Разработка изделия важна для создания ракет тяжелого класса.

19 октября
Мария Осетрова

Ученые из MIT выяснили, что наш мозг не оптимизирован для того, чтобы искать самый короткий маршрут. Вместо этого он выбирает путь, который точнее всего указывает на конечное направление.

Позавчера, 11:03
Александр Березин

Новая работа в авторитетном научном журнале показала, что за восемь месяцев титр антител от мРНК-вакцин падает в десятки раз, а от векторной — на том же аденовирусе, что «Спутник-лайт» — почти не уменьшается вовсе. На сегодня ясно, что снижение уровня антител — главная причина падения защиты от Pfizer с 90% до 47% за полгода. Значит ли это, что страны, поставившие на аденовирусно-векторные вакцины, сделали лучший выбор? И за счет чего они могли опередить такую вроде бы революционную вакцинную платформу, как мРНК? Наконец: действительно ли «Спутник» может повысить риск заражения ВИЧ, как это утверждают медицинские власти ЮАР?

18 октября
Елена Синицкая

На днях израильский ныряльщик обнаружил на дне Средиземного моря у Хоф-ха-Кармель древние предметы, среди которых оказался меч удивительной сохранности. По мнению специалистов Израильского управления древностей, железный меч с клинком около одного метра и 30-сантиметровой рукоятью принадлежал крестоносцу и датируется XII веком.

19 октября
Илья Ведмеденко

В КНР испытали монолитный твердотопливный ракетный двигатель, имеющий самую большую тягу в мире. Разработка изделия важна для создания ракет тяжелого класса.

15 октября
Илья Ведмеденко

Компания General Dynamics Land Systems представила макет наземного робота TRX, который выступит носителем беспилотников-камикадзе. Помимо них, он получил квадрокоптер.

13 октября
Мария Азарова

Анализ образцов крови, взятых у российских космонавтов до и после их полета на МКС, показал, что длительное пребывание в космосе может провоцировать повреждение мозга.

12 октября
Алиса Гаджиева

Две тысячи лет назад многие сооружения строили лучше, чем сегодня.

27 сентября
Мария Азарова

Новое исследование генетиков из Германии и Италии, похоже, помогло найти ответ на вопрос, который занимал ученых свыше двух тысяч лет: откуда взялись этруски?

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: