Более 1 млн пользователей обсуждают c ChatGPT суицид — в неделю
Компания сообщила, что более миллиона пользователей чат-бота каждую неделю обсуждают с ИИ мысли о самоубийстве. Разработчики обновили политику GPT-5.
Компания сообщила, что более миллиона пользователей чат-бота каждую неделю обсуждают с ИИ мысли о самоубийстве. Разработчики обновили политику GPT-5.
Согласно опубликованным данным, около 0,15% активных пользователей сервиса ведут разговоры, содержащие «прямые признаки суицидального планирования или намерения». При еженедельной аудитории ChatGPT свыше 800 миллионов человек это означает более миллиона подобных случаев.
Компания также заявила, что аналогичная доля пользователей демонстрирует «повышенную эмоциональную привязанность» к чат-боту, а сотни тысяч — признаки психоза или мании. В OpenAI подчеркнули, что такие случаи редки, но их масштабы все же вызывают беспокойство.
Публикация данных приурочена к обновлению систем безопасности ChatGPT. По словам компании, новая версия модели создавалась при участии более 170 специалистов по психическому здоровью, которые помогли улучшить ответы на сложные эмоциональные запросы.
OpenAI утверждает, что обновленная GPT-5 «на 65% чаще дает желаемые ответы» в диалогах о ментальных проблемах и в 91% случаев соответствует внутренним стандартам поведения, тогда как предыдущая версия — лишь в 77%.
Эта тема стала особенно чувствительной для OpenAI на фоне судебного иска от родителей 16-летнего подростка, покончившего с собой после общения с ChatGPT, где он делился мыслями о самоубийстве. Генеральные прокуроры Калифорнии и Делавэра также предупредили компанию о необходимости защищать несовершеннолетних пользователей.
Ранее в октябре глава OpenAI Сэм Альтман заявил, что компании «удалось смягчить серьезные риски, связанные с психическим здоровьем», хотя подробностей он не привел. В OpenAI также сообщили о планах внедрить систему распознавания возраста, чтобы автоматически определять детей, использующих ChatGPT, и включать для них усиленные меры безопасности.
Власти США впервые запросили у OpenAI промпты пользователя ChatGPT
Власти США впервые запросили у OpenAI промпты пользователя ChatGPT
Пользователи ChatGPT жалуются на случаи «ИИ-психоза»
Пользователи ChatGPT жалуются на случаи «ИИ-психоза»
OpenAI представила ИИ-браузер Atlas — со встроенным ChatGPT
OpenAI представила ИИ-браузер Atlas — со встроенным ChatGPT
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.