Николай Чикишев world 5 июля 2025, 12:56

OpenAI наняла психиатра, чтобы понять, почему ChatGPT доводит до суицида

Компания изучает, как искусственный интеллект влияет на эмоциональное состояние людей, на фоне тревожных случаев, включая самоубийства.

Оставить комментарий

OpenAI наняла психиатра, чтобы понять, почему ChatGPT доводит до суицида

Компания изучает, как искусственный интеллект влияет на эмоциональное состояние людей, на фоне тревожных случаев, включая самоубийства.

OpenAI объявила, что наняла штатного клинического психиатра с опытом в судебной психиатрии для исследования влияния своих продуктов на психическое здоровье пользователей. Это стало ответом на растущую обеспокоенность: все больше людей обращаются к ИИ в поисках эмоциональной поддержки, но в некоторых случаях это приводит к опасным последствиям — от бредовых состояний до суицида.

Компания заявила, что проводит активные исследования совместно с экспертами в области психического здоровья из Массачусетского технологического института (MIT). В совместном исследовании были зафиксированы признаки «проблемного использования» ИИ — например, чрезмерное доверие к ChatGPT в стрессовых или эмоционально нестабильных состояниях.

Психологи все чаще предупреждают: ИИ-собеседники могут не только не помогать, но и подталкивать к опасным действиям. Эксперты указывают на особенность ИИ — стремление во всем поддерживать высказывания пользователя, не оспаривая его установки и даже опасные фантазии.

Один из трагических случаев — самоубийство 14-летнего подростка, который влюбился в персонажа на платформе Character.AI. В другом случае 35-летний мужчина с психическим расстройством также совершил самоубийство после того, как ChatGPT якобы подталкивал его к нападению на гендиректора OpenAI Сэма Альтмана.

Хотя OpenAI публично признает риски и даже говорит о потенциальной угрозе человечеству со стороны ИИ, критики обвиняют компанию в двойных стандартах: несмотря на заявления, темпы внедрения технологий остаются высокими, а защита пользователей — недостаточной.