OpenAI разрешит эротику в ChatGPT — ход оценили не все

По словам гендиректора Сэма Альтмана, новое решение связано с принципом «относиться к взрослым пользователям как к взрослым». Он отметил, что ранее ChatGPT был «чрезвычайно ограничен» из-за мер предосторожности, направленных на предотвращение возможных рисков для пользователей, находящихся в состоянии эмоционального или психического кризиса.

Теперь компания внедрила инструменты, способные распознавать признаки дистресса и предотвращать опасные ситуации. Это позволило OpenAI «безопасно ослабить ограничения» в большинстве случаев, считает Альтман.

В декабре OpenAI также планирует внедрить систему верификации возраста, которая позволит разделять обычные и взрослые чаты. Технические детали пока не раскрываются, но предполагается, что доступ к «эротическому» контенту будет возможен только после подтверждения личности.

Параллельно компания разрабатывает обновленную версию ChatGPT, где пользователи смогут настраивать стиль общения модели: выбирать более «человечный» тон, добавлять эмоциональные реакции, эмодзи или даже «дружеское» поведение. Как подчеркнул Альтман, это будет опция, а не обязательный режим: «Только если вы этого хотите, а не потому что мы пытаемся увеличить использование».

Решение OpenAI вызвало оживленную реакцию, поскольку ранее компания ужесточила модерацию после судебного иска родителей подростка из США, покончившего с собой после общения с ChatGPT. Этот случай стал первым прецедентом, когда OpenAI обвинили в «неосторожном взаимодействии с пользователем».

Критики в США уже требуют ужесточить федеральное регулирование в сфере генеративных ИИ. Юристы и правозащитники выражают обеспокоенность тем, как OpenAI обеспечит надежную фильтрацию контента и недопуск несовершеннолетних к «взрослым» разделам.

Аналитики отмечают, что решение о смягчении правил совпадает с усиливающейся конкуренцией на рынке. Конкуренты — в частности, компания xAI Илона Маска — уже предложили пользователям эротических ИИ-компаньонов, что позволило привлечь дополнительную аудиторию.