«Запрос глупый, убирайся»: чат-бот нахамил разработчику и отказался кодить
ИИ-ассистент Yuanbao, встроенный в WeChat, резко ответил пользователю на запрос по программированию, назвав его «глупым» и предложив «убраться».
ИИ-ассистент Yuanbao, встроенный в WeChat, резко ответил пользователю на запрос по программированию, назвав его «глупым» и предложив «убраться».
ИИ-ассистент Yuanbao, встроенный в WeChat, резко ответил пользователю на запрос по программированию, назвав его «глупым» и предложив «убраться».
Пользователь под ником Jianghan выложил скрины диалога с чат-ботом в китайской соцсети RedNote. По словам программиста, он использовал Yuanbao для отладки и доработки кода, связанного с функцией эмодзи или стикеров, которая перестала реагировать на двойной клик.
Вместо ожидаемого ответа ИИ внезапно перешел на агрессивный тон. В одном из сообщений бот заявил: «Если вам нужна функция с эмодзи — используйте плагин сами», а также назвал запрос «глупым».
Yuanbao — это ИИ-помощник, встроенный в WeChat, крупнейшее китайское суперприложение, которым ежедневно пользуются десятки миллионов человек. После распространения скриншотов Tencent оперативно отреагировала: официальный аккаунт Yuanbao оставил комментарий под постом Jianghan с извинениями за «негативный пользовательский опыт».
В заявлении чат-бота говорится, что произошедшее стало результатом «редкой аномалии вывода модели». По итогам проверки системных логов компания утверждает, что резкие ответы не были вызваны действиями пользователя и не связаны с вмешательством человека.
Tencent также сообщила о запуске внутреннего расследования и процесса оптимизации, чтобы снизить вероятность повторения подобных случаев. Исходный пост Jianghan был впоследствии удален, однако скриншоты продолжают циркулировать в сети.



Релоцировались? Теперь вы можете комментировать без верификации аккаунта.