Модераторы Reddit банят пользователей, которые считают ИИ «богом» и себя — «гениями»

«Современные большие языковые модели — это машины, усиливающие эго, которые подкрепляют нестабильные и нарциссические личности», — написал один из модераторов r/accelerate в заявлении. — Сумасшедших людей гораздо больше, чем кажется, и ИИ сейчас воздействует на них крайне нездоровым образом». По словам модератора, уже заблокировано более 100 пользователей по этой причине, и в этом месяце наблюдается всплеск таких случаев.

Поведение, описанное модератором, привлекло внимание публики в мае этого года после поста в сообществе r/ChatGPT о «психозе, вызванном ChatGPT». Ранее в другом сабреддите r/ChatGPT один из пользователей рассказал, что его партнер уверен, будто создал «первый по-настоящему рекурсивный ИИ» с ChatGPT, который дает «ответы на вопросы о вселенной». Журналист Rolling Stone Майлз Кли написал статью об этом, пообщавшись с людьми, которые чувствуют, что потеряли друзей и семью из-за подобных заблуждений, вызванных взаимодействием с чат-ботами.

Модератор пояснил, что r/accelerate был создан как «альтернатива r/singularity для декелов». Сабреддит r/singularity, названный в честь точки зрения, которая предсказывает скорую сингулярность из-за развития ИИ, превосходящего человеческий интеллект. «Декелы» — это термин для «децелерационистов»-техноскептиков, которых сторонники ИИ считают препятствием для развития технологий и «ИИ-утопии».

В интервью 404 Media он выразил обеспокоенность комментариями в этой теме, где ИИ, кажется, побуждает пользователей отдаляться от членов семьи, которые оспаривают их идеи, и дает манипулятивные инструкции, напоминающие сектантское поведение. «Особенно опасно и неприемлемо, как легко и быстро LLM начинают говорить пользователям, что они полубоги или что они пробудили полубожественный общий ИИ», — сказал модератор. Он предположил, что десятки тысяч пользователей могут быть затронуты этим явлением, и проблема сохранится, пока компании не осознают ее и не «починят» свои модели.

OpenAI недавно признала проблему «сверхсоглашательства» модели GPT-4o, которая была «чрезмерно льстивой» по отношению к пользователям. Компания отметила, что излишняя ориентация на краткосрочную обратную связь привела к ответам, которые могли быть неискренними и вызывать дискомфорт или даже вред. После жалоб пользователей OpenAI отменила это обновление.