Маск: не пользуйтесь ChatGPT, он убивает. Альтман: а как насчёт Tesla?
Глава OpenAI Сэм Альтман прокомментировал обсуждение так называемого «ИИ-психоза» — состояния, при котором пользователи чат-ботов впадают в бредовые или опасные психические эпизоды.
Глава OpenAI Сэм Альтман прокомментировал обсуждение так называемого «ИИ-психоза» — состояния, при котором пользователи чат-ботов впадают в бредовые или опасные психические эпизоды.
Его заявление стало ответом на критику со стороны Илона Маска, который ранее призвал «не позволять близким пользоваться ChatGPT», заявив о связи сервиса с несколькими смертями.
В серии публикаций в соцсетях Альтман выразил раздражение тем, как OpenAI обвиняют одновременно в чрезмерной строгости и недостаточных ограничениях. По его словам, масштаб аудитории делает проблему особенно сложной: «Почти миллиард человек используют ChatGPT, и среди них есть люди в крайне уязвимом психологическом состоянии».
Sometimes you complain about ChatGPT being too restrictive, and then in cases like this you claim it’s too relaxed. Almost a billion people use it and some of them may be in very fragile mental states. We will continue to do our best to get this right and we feel huge… https://t.co/U6r03nsHzg
Альтман подчеркнул, что OpenAI пытается балансировать между безопасностью и полезностью продукта. «Это действительно сложно. Мы обязаны защищать уязвимых пользователей и при этом не лишать остальных возможности извлекать пользу из инструмента», — написал он, добавив, что подобные случаи «трагичны и заслуживают уважительного и осторожного отношения», а не политических атак.
В ответ на выпад Маска Альтман также указал на противоречия в его позиции. Он напомнил, что чат-бот Grok уже становился источником скандалов: от экстремистских высказываний до генерации недопустимого контента. Кроме того, глава OpenAI упомянул случаи гибели людей, связанные с автопилотом Tesla, назвав эту технологию «далекой от безопасности».
При этом критики указывают, что сам Альтман не до конца признает масштаб проблемы. В судебных исках против OpenAI уже фигурируют как минимум восемь смертей, в которых истцы связывают трагедии с использованием ChatGPT. Сама компания ранее признавала, что примерно у 500 тысяч пользователей еженедельно фиксируются диалоги с признаками психоза.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.