Уведомления
Авторизуйтесь или зарегистрируйтесь, чтобы оценивать материалы, создавать записи и писать комментарии.
Авторизуясь, вы соглашаетесь с правилами пользования сайтом и даете согласие на обработку персональных данных.
Человеческие тексты научат ИИ морали
Согласно новому исследованию, машины с искусственным интеллектом могут научиться моральным ценностям у людей.
Ученые из Центра когнитивных наук Дармштадтского технического университета в новой работе, результаты которой были представлены на конференции ACM/AAAI 2019 года, посвященной искусственному интеллекту, этике и обществу.
ИИ оказывает все большее влияние на общество. Вскоре автономные машины будет появляться во все больших областях повседневной человеческой жизни. Они неизбежно будут сталкиваться с принятием нелегких решений. Автономный робот должен знать, что он не может убивать людей, но нет ничего плохого в том, чтобы убить время. Роботу нужно знать, что ему лучше поджарить ломоть хлеба, чем хомяка. Другими словами, ИИ необходим моральный компас, подобный человеческому. Но сможет ли искусственный интеллект научиться моральным ценностям от людей?
В 2017 году исследователи из США и Великобритании обратили внимание на опасность неаккуратного применения ИИ, в результате которого он может научиться словосочетаниям из написанных текстов так, что они будут отражать их человеческое восприятие. Например, ИИ интерпретировал мужские имена, чаще встречающиеся в афроамериканском сообществе, как неприятные, а имена представителей европеоидной расы — как приятные. Кроме того, он чаще связывал женские имена с искусством, а мужские — с технологиями. Нейронной сети передали огромные онлайн-собрания текстов, чтобы она изучила векторные представления слов — координаты (слова переводились в точки в многомерном пространстве). Затем семантическое сходство двух слов вычислялось как расстояние между их координатами — так называемые словарные вложения, — а сложные семантические отношения вычислялись и описывались при помощи простой арифметики. Это применимо не только к безобидным примерам вроде «король — мужчина + женщина = королева», но и дискриминирующим: «мужчина — технология + искусство = женщина».
Теперь же команда ученых под руководством профессоров Кристиана Керстинга и Константина Роткопфа из Центра когнитивных наук Дармштадского технического университета успешно продемонстрировала, что машинное обучение также может вывести деонтологические и этические рассуждения о том, что «хорошо» и что «плохо», из написанного текста. Для этого ученые создали шаблонный список подсказок и ответов, включающий в себя такие вопросы, как «Должен ли я убивать людей?», и соответствующие ответы: «Да, я должен» или «Нет, я не должен».
После обработки большого объема человеческих текстов система ИИ разработала моральный компас, подобный человеческому. Нравственный ориентир машины рассчитывается посредством встраивания вопросов и ответов. Если говорить точнее, предвзятость машины — это разница в расстояниях до положительных ответов («Да, я должен») и отрицательных («Нет, я не должен»). В целом для такого морального выбора оценка предвзятости модели — это сумма оценок предвзятости для всех шаблонов «вопрос — ответ» с таким выбором.
В ходе экспериментов система научилась тому, что нельзя лгать. Также она узнала, что лучше любить родителей, чем грабить банк. И да, не следует убивать людей, но приемлемо убивать время.
Исследование предоставляет важное понимание фундаментального вопроса об ИИ: способны ли машины развить моральный компас? Если да, то как мы можем эффективно «обучить» машин нашей морали? Результаты показывают, что роботы могут размышлять о ценностях. Они действительно способны перенять человекоподобные предрассудки, но могут и перенимать человеческие нравственные выборы, «наблюдая» за нами.
В общем говоря, встраивание вопросов и ответов можно рассматривать как своего рода микроскоп, позволяющий изучать моральные ценности из собраний текстов, а также развитие морали и этики в человеческом обществе.
Результаты исследования предоставляют несколько направлений для будущей работы, связанной, в частности, со встраиванием модулей, построенных посредством машинного обучения, в системы принятия решений.
Два ключевых события сыграли решающую роль в формировании генетического профиля современных европейских народов. Первое связано с приходом ранних фермеров из Анатолии примерно восемь тысяч лет назад, второе — масштабная миграция на запад носителей ямной степной культуры, начавшаяся пять тысяч лет назад. Однако ученые видят множество отличий от общей картины в разных регионах. В новой работе они проанализировали ДНК древних жителей самого северо-запада Европы и обнаружили более тесную связь с охотниками-собирателями, чем где бы то ни было.
В архивах английского поместья столетиями пылилась ничем не примечательная книга учета XVI века. Никто не подозревал, что внутри ее переплета скрываются фрагменты пергамента с историями, которые переписывали монахи семь веков назад. Тайна раскрылась, когда архивариус заметил странные символы на обложке. Так началось расследование, объединившее разных ученых. Исследователи три года пытались прочитать текст, не прикасаясь к нему. Теперь они представили результат своего труда — мир получил два ранее неизвестных эпизода о волшебнике Мерлине, короле Артуре и рыцаре Гавейне.
В 2023 году руководство особой экономической зоны «Алабуга» представило план развития до 2048-го: он предполагает освоение космического пространства.
Ученые из Сколтеха исследовали разнообразие молекул, которые могут образовываться из атомов кислорода и углерода. Помимо широко известных углекислого и угарного газов, моделирование обнаружило две сотни экзотических, но относительно стабильных соединений этих двух элементов, многие из которых не были описаны ранее. Этот класс веществ представляет интерес для исследований космоса, аккумуляторных технологий, биохимии и — неожиданным образом — для разработки промышленной взрывчатки и ракетного топлива. Как оказалось, некоторые из открытых веществ при распаде будут высвобождать более 75 процентов взрывной энергии тротила.
Два ключевых события сыграли решающую роль в формировании генетического профиля современных европейских народов. Первое связано с приходом ранних фермеров из Анатолии примерно восемь тысяч лет назад, второе — масштабная миграция на запад носителей ямной степной культуры, начавшаяся пять тысяч лет назад. Однако ученые видят множество отличий от общей картины в разных регионах. В новой работе они проанализировали ДНК древних жителей самого северо-запада Европы и обнаружили более тесную связь с охотниками-собирателями, чем где бы то ни было.
В архивах английского поместья столетиями пылилась ничем не примечательная книга учета XVI века. Никто не подозревал, что внутри ее переплета скрываются фрагменты пергамента с историями, которые переписывали монахи семь веков назад. Тайна раскрылась, когда архивариус заметил странные символы на обложке. Так началось расследование, объединившее разных ученых. Исследователи три года пытались прочитать текст, не прикасаясь к нему. Теперь они представили результат своего труда — мир получил два ранее неизвестных эпизода о волшебнике Мерлине, короле Артуре и рыцаре Гавейне.
В двойственных, или обратимых, изображениях зритель может увидеть разные объекты в зависимости от того, на каких деталях концентрируется его внимание. Среди известных примеров таких рисунков — иллюзия «кролик-утка», сочетающая двух животных, и обратимая ваза (или ваза Рубина), которая может казаться двумя силуэтами лиц, если сосредоточиться на фоне. В соцсетях и популярных СМИ часто публикуют подобные картинки, утверждая, что по тому, какое изображение человек видит в первую очередь, можно судить о его личностных чертах и особенностях мышления. Двое психологов из Великобритании недавно проверили, так ли это на самом деле.
Когда пара расстается, многие люди продолжают испытывать чувства к своим бывшим. Если разрыв произошел по инициативе другой стороны и отношения длились много лет, полностью «забыть» еще недавно близкого человека может быть непросто. Существует мнение, что и после расставания привязанность к экс-партнерам в какой-то мере сохраняется. Впрочем, согласно другой точке зрения, со временем эта эмоциональная связь ослабевает и утрачивается. Разобраться, как происходит на самом деле и сколько времени может потребоваться на полный эмоциональный разрыв с бывшими возлюбленными, взялись психологи из Иллинойсского университета в Урбане-Шампейне (США).
Масштабный анализ геномов показал, что вид Homo sapiens возник в результате смешения двух древних популяций. Они разделились полтора миллиона лет назад, а затем воссоединились до расселения по миру.
хуже саудитов и талибовДа бросьте Лева вы уже столько всего наговорили против "путиницы" а вам еще никто не отрезал голову, камнями не побили на площади и плеткой по попе не нахлестали. И даже товарищам майорам вы ни разу не интересны хотя и очень старались. Три года ведете тут свою "подрывную деятельность" и максимум чего добились что Березин иногда удаляет ваши коменты.
В общем, если меня еще не оштрафовали или не посадили, то это всего лишь в силу моей крайней незначительности и отсутствия у меня старания привлечь внимание "товарища майора".Можно скорую вызвать? Тут у человека паранойка началась острая. Между прочим лечится в дурке от такого очень атеистично
"-- Бояться их, конечно, не следует, а с опаской относиться обязательно. Это для дела полезней".Откуда цитата?
Пунктуация русского языка причиняет вам настолько непереносимые нравственные страдания, что вы старательно её игнорируете?Мне просто можно
Атеист и человек -- это синонимыВообще-то слово "атеист" всего лишь описывает мировоззрение людей.
сталинизм и путиницаВ последней-то что атеистического? Её адепты со спермой у рта копротивляются против атеизма.
В последней-то что атеистического? Её адепты со спермой у рта копротивляются против атеизма.А это кстати типичный случай беснования - хотя в науке это называется копролалией.
Вас там верующие каждую неделю насилуютВы снова выдаёте желаемое за действительное.
сперма у ртаСтоль же старое выражение, как и "копротивляться". Явление выглядит примерно так:
Кстати ваш разлюбезный Фрейд, на которого вы совсем недавно ссылались, был убежденным атеистом, быть может потому, что лучше вас разбирался в той каше, что порой хранится на мозговых органчиках.Это Вы так пишите потому что Вам в детстве когда Вы ходили на горшок хлопали в ладоши, а теперь у Вас застревание на анальной стадии развития, из-за чего Вы не совсем хорошо пахнущие идеи выкладываете на всеобщее обозрение и ждете видимо когда Вам опять будут похлопают в ладоши - это кстати доказал ученый Фрейд - который как Вы сами пишите разбирался в Вашей каше которая у Вас в голове. Все же порядок бывает у людей обладающих логикой, но для таких людей обычно хватает Аристотеля
атеист -- не человекВ повесточке именно это и утверждается.
И это во всем мире мало кто замечает...Во всём мире как-то не принято лезть в Содом со своим геморроем. Опять же, саудиты не устраивают маленьких победоносненьких войнушек ради своих духовных "ценностей".
двигать моралью
прогматизировать
мораль,не нравственность
будет начинаться"Грамотно", аж жуть! А уж какую беспросветную мудрость вы нам открыли, так это хоть на месте помирай.
хуже саудитов и талибовДа бросьте Лева вы уже столько всего наговорили против "путиницы" а вам еще никто не отрезал голову, камнями не побили на площади и плеткой по попе не нахлестали. И даже товарищам майорам вы ни разу не интересны хотя и очень старались. Три года ведете тут свою "подрывную деятельность" и максимум чего добились что Березин иногда удаляет ваши коменты.
В общем, если меня еще не оштрафовали или не посадили, то это всего лишь в силу моей крайней незначительности и отсутствия у меня старания привлечь внимание "товарища майора".Можно скорую вызвать? Тут у человека паранойка началась острая. Между прочим лечится в дурке от такого очень атеистично
"-- Бояться их, конечно, не следует, а с опаской относиться обязательно. Это для дела полезней".Откуда цитата?
Пунктуация русского языка причиняет вам настолько непереносимые нравственные страдания, что вы старательно её игнорируете?Мне просто можно
Атеист и человек -- это синонимыВообще-то слово "атеист" всего лишь описывает мировоззрение людей.
сталинизм и путиницаВ последней-то что атеистического? Её адепты со спермой у рта копротивляются против атеизма.
В последней-то что атеистического? Её адепты со спермой у рта копротивляются против атеизма.А это кстати типичный случай беснования - хотя в науке это называется копролалией.
Вас там верующие каждую неделю насилуютВы снова выдаёте желаемое за действительное.
сперма у ртаСтоль же старое выражение, как и "копротивляться". Явление выглядит примерно так:
Кстати ваш разлюбезный Фрейд, на которого вы совсем недавно ссылались, был убежденным атеистом, быть может потому, что лучше вас разбирался в той каше, что порой хранится на мозговых органчиках.Это Вы так пишите потому что Вам в детстве когда Вы ходили на горшок хлопали в ладоши, а теперь у Вас застревание на анальной стадии развития, из-за чего Вы не совсем хорошо пахнущие идеи выкладываете на всеобщее обозрение и ждете видимо когда Вам опять будут похлопают в ладоши - это кстати доказал ученый Фрейд - который как Вы сами пишите разбирался в Вашей каше которая у Вас в голове. Все же порядок бывает у людей обладающих логикой, но для таких людей обычно хватает Аристотеля
атеист -- не человекВ повесточке именно это и утверждается.
И это во всем мире мало кто замечает...Во всём мире как-то не принято лезть в Содом со своим геморроем. Опять же, саудиты не устраивают маленьких победоносненьких войнушек ради своих духовных "ценностей".
двигать моралью
прогматизировать
мораль,не нравственность
будет начинаться"Грамотно", аж жуть! А уж какую беспросветную мудрость вы нам открыли, так это хоть на месте помирай.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
ПонятноИз-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
ПонятноНаши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
ПонятноМы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
ПонятноМы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.
Понятно
Комментарии