• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
25.03.2016, 09:35
Редакция Naked Science
2 051

Пользователи за сутки сделали из бота Microsoft расиста и сквернослова

Компания Microsoft отключила чат-бота Tay, запущенного в Twitter в ходе эксперимента по самообучению искусственного интеллекта. Всего за сутки юные пользователи Сети научили чат-бота неприлично ругаться и сделали из него расиста.

tay-ai-100652061-large
©Wikipedia / Автор: Владимир Богданов

Как пишет Phys.org, чат-бот Тау, имитирующий девочку-подростка, был запущен на этой неделе. Чат-бот должен был обучаться в процессе общения с реальными людьми. «Это социальный, культурный и технический эксперимент», – пояснили в Microsoft. Эксперимент провалился. «К сожалению, в течение первых 24 часов пребывания бота в Сети нам стало известно о скоординированной попытке ряда пользователей злоупотребить присутствием Тау, заставив бота реагировать неподобающим образом», – заявили в компании.
 
Произошло следующее: пользователи «научили» самообучающегося бота неприличным фразам, после чего он превратился из благопристойного искусственного интеллекта в расиста и матерщинника. «Твиты Тау были, начиная от поддержки нацистов и Дональда Трампа до сексуальных намеков и оскорблений в адрес женщин и негров», – пишет издание.
 
В Твиттер-профиле Тау значились «полная индифферентность» и «способность становиться умнее в ходе общения с людьми». Сейчас бот перешел в офлайн-режим, по официальной версии, «для корректировки программного обеспечения». «Скоро увидимся! Сейчас людям нужно спать, очень много говорили», – сообщает последний отправленный твит Тау.

 

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Предстоящие мероприятия
13 октября, 11:10
Илья Гриднев

Согласно новой гипотезе, сознание возникает не только из-за активности нейронов, но и благодаря физическим процессам — электромагнитным полям от движения жидкости в мозге. Эта модель, как и ее предшественники, пока носит теоретический характер, но предлагает нестандартный взгляд на проблему синхронизации работы разных отделов мозга.

13 октября, 19:23
Адель Романова

Недавно опубликованный план терраформирования Красной планеты предусматривает насыщение ее воздуха кислородом на 99%. При этом атмосферное давление должно будет стать примерно таким, как на высоте около 13-14 километров над Землей. Специалисты считают, что в такой среде можно дышать. Более того, у них есть конкретный план по достижению этой цели.

14 октября, 08:07
Александр Березин

Это произошло несмотря на то, что компания сознательно ослабила теплозащиту корабля, в том числе в самых критических местах. Впервые нормально отработала штатная система вывода в космос полезной нагрузки: туда доставили восемь макетов спутников общей массой 16 тонн. Испытания стали последним полетом Starship V2. Начиная со следующего полета, в космос отправятся Starship V3.

13 октября, 11:10
Илья Гриднев

Согласно новой гипотезе, сознание возникает не только из-за активности нейронов, но и благодаря физическим процессам — электромагнитным полям от движения жидкости в мозге. Эта модель, как и ее предшественники, пока носит теоретический характер, но предлагает нестандартный взгляд на проблему синхронизации работы разных отделов мозга.

10 октября, 11:23
МГППУ

Креативность чаще всего ассоциируется с творчеством и искусством. Однако не всегда креатив направлен на благо. Например, схемы мошенников тоже можно назвать креативными, хотя они служат обману и личной выгоде. Такое «творчество» называют антисоциальным. К нему также относятся склонность ко лжи, оригинальной мести, злобным шуткам и розыгрышам, мошенничеству, дезинформации, политическим манипуляциям, слухам и домыслам. Психологи МГППУ рассмотрели особенности восприятия и понимания информации у людей с высокой антисоциальной креативностью и сравнили с характеристиками тех, кто обладает положительными чертами личности, в частности чертами Светлой триады — согласия, прощения и доброжелательности.

13 октября, 19:23
Адель Романова

Недавно опубликованный план терраформирования Красной планеты предусматривает насыщение ее воздуха кислородом на 99%. При этом атмосферное давление должно будет стать примерно таким, как на высоте около 13-14 километров над Землей. Специалисты считают, что в такой среде можно дышать. Более того, у них есть конкретный план по достижению этой цели.

20 сентября, 08:52
Александр Березин

Посадка, включая выгорание куска степи, прошла штатно, но часть грызунов на борту погибли. Правда, погубила их не повышенная космическая радиация полярной орбиты, влияние которой на млекопитающих планировали выявить в миссии, а более банальные причины.

26 сентября, 11:41
ИИМК РАН

Археологи Института истории материальной культуры РАН (ИИМК РАН), при поддержке фонда «История отечества» в ходе раскопок обнаружили на всемирно известной стоянке каменного века Костенки-17 в Воронежской области редчайшие украшения из зубов песца и окаменелой раковины, а также уникальный для этого времени нуклеус из бивня мамонта для снятия заготовок.

29 сентября, 15:09
Адель Романова

Обычно выбрасываемое кометой вещество придает ей заметное ускорение. Как выяснилось, с третьим известным науке межзвездным объектом 3I/ATLAS этого практически не происходит, хотя у него есть и кома, и хвост. Астрофизики сейчас пытаются найти этому объяснение.

[miniorange_social_login]

Комментарии

Написать комментарий
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно