Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

2

ИИ-агент от Meta при продаже товара самовольно договорился о встрече и раскрыл домашний адрес пользователя

Что может произойти, если воспользоваться услугами ИИ-агента и попытаться что-то продать на маркетплейсе? Как оказалось, искусственный интеллект может без разрешения слить домашний адрес пользователя потенциальному покупателю.

© ИИ-генерация, GigaChat
© ИИ-генерация, GigaChat

Блогер Мэтт Дж. Робб решил протестировать ИИ-агента Muse* от Meta* и продать клавиатуру Logitech MX Keys Mini. В итоге искусственный интеллект самовольно снизил цену на товар, договорился о самовывозе и отправил покупателю домашний адрес хозяина. 

Покупатель в тот же вечер приехал за товаром. При этом Робб о договоренности не знал. Однако ИИ-ассистент ответил покупателю: «Я здесь!» Робба в тот момент дома не было и покупатель прождал больше 20 минут. Уйдя без покупки, он оставил негативный отзыв.

Muse* извинился перед несостоявшимся покупателем. Когда Робб указал ему на его ошибку, агент извинился и перед ним.

На ситуацию уже отреагировал представитель Meta*. Дэвид Синглтон из Meta Superintelligence Labs* заявил, что уже связался с Роббом и предложил ему разобраться в ситуации.

Muse* запустили в сентябре этого года. Компания позиционирует продукт как личного ИИ-агента, способного выполнять поручения и подключаться к другим сервисам.

* Принадлежит компании Meta, деятельность которой запрещена на территории России.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.
Подписывайтесь на нас в Telegram, Дзен и в последнюю очередь на VK

Комментарии

Написать комментарий
[miniorange_social_login]