Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

627

ChatGPT «сошел с ума» и начал разговаривать имитированным голосом пользователя

Компания OpenAI опубликовала отчет, в котором подробно описаны «ключевые области риска» последней версии крупной языковой модели GPT-4o и способы избежать их.

ChatGPT / © OpenAI
ChatGPT / © OpenAI

В одном случае специалисты OpenAI обнаружили, что расширенный голосовой режим модели, позволяющий общаться с ChatGPT, начал неожиданно разговаривать имитированным голосом самого пользователя. В какой-то момент ChatGPT посреди ответа на запрос человека внезапно закричал «Нет!», а потом начал говорить сгенерированным голосом.

Специалисты OpenAI объяснили, что это произошло из-за того, что шум в вводимых пользователем данных сбил модель с толку и заменил авторизованный образец голоса в системной подсказке на звуковой ввод от человека.

Компания также отметила,что риск непреднамеренного копирования голоса остается «минимальным». OpenAI уже заблокировала такую функцию.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.
Подписывайтесь на нас в Telegram, Дзен и в последнюю очередь на VK

Комментарии

Написать комментарий
Предстоящие мероприятия
[miniorange_social_login]