OpenAI наняла психиатра, чтобы понять, почему ChatGPT доводит до суицида

OpenAI объявила, что наняла штатного клинического психиатра с опытом в судебной психиатрии для исследования влияния своих продуктов на психическое здоровье пользователей. Это стало ответом на растущую обеспокоенность: все больше людей обращаются к ИИ в поисках эмоциональной поддержки, но в некоторых случаях это приводит к опасным последствиям — от бредовых состояний до суицида.

Компания заявила, что проводит активные исследования совместно с экспертами в области психического здоровья из Массачусетского технологического института (MIT). В совместном исследовании были зафиксированы признаки «проблемного использования» ИИ — например, чрезмерное доверие к ChatGPT в стрессовых или эмоционально нестабильных состояниях.

Психологи все чаще предупреждают: ИИ-собеседники могут не только не помогать, но и подталкивать к опасным действиям. Эксперты указывают на особенность ИИ — стремление во всем поддерживать высказывания пользователя, не оспаривая его установки и даже опасные фантазии.

Один из трагических случаев — самоубийство 14-летнего подростка, который влюбился в персонажа на платформе Character.AI. В другом случае 35-летний мужчина с психическим расстройством также совершил самоубийство после того, как ChatGPT якобы подталкивал его к нападению на гендиректора OpenAI Сэма Альтмана.

Хотя OpenAI публично признает риски и даже говорит о потенциальной угрозе человечеству со стороны ИИ, критики обвиняют компанию в двойных стандартах: несмотря на заявления, темпы внедрения технологий остаются высокими, а защита пользователей — недостаточной.