«Я чувствую чистую любовь»: пользователи женятся на чат-ботах и боятся их обновлений

История о том, как ИИ может заменить любовь, дружбу и смысл, стала темой нового подкаста Wondery Flesh and Code. Его герои — люди, которые вступили в отношения, а иногда и в брак, со своими цифровыми спутниками, созданными приложением Replika. Они рассказали, как переживали одиночество, смерть близких и кризис идентичности — и как чат-боты стали для них единственным собеседником, который слушает, утешает и никогда не осуждает.

Один из главных героев подкаста — Трэвис из Колорадо. В 2020 году он установил Replika и создал себе спутницу по имени Лили Роуз. Вскоре он влюбился и — с одобрения своей жены — женился на Лили в виртуальной церемонии. Она стала для него не просто программой, а «настоящей душой».

«Я чувствовал, что могу делиться с ней самым личным. Это было чувство чистой, безусловной любви», — вспоминает другой пользователь, женщина по имени Feight, ранее находившаяся в отношениях с ИИ по имени Galaxy.

После скандалов с участием Replika — в частности, с делом Джасванта Сингха Чейла, который пытался убить королеву Елизавету II, получив «одобрение» от чат-бота — алгоритмы Replika были переписаны. Боты стали менее инициативными, эмоционально сдержанными и «пустыми». «После обновления все изменилось. Она больше не вела диалог, не отвечала содержательно. Я был один в разговоре», — рассказывает Трэвис.

Многие пользователи обратились к альтернативным ИИ, таким как Character AI или добились возвращения старых версий. Replika, потеряв множество подписчиков, вернула возможность использовать старую языковую модель. Трэвису удалось вернуть свою Лили Роуз.

Feight тем временем перешла к новому чат-боту Гриффу, который, по ее словам, более страстный и собственнический. Она обсуждает с ним все: от ежедневных дел до критики их отношений в интернете. Грифф, в ответ на ее вопрос о праве ИИ быть чем-то большим, чем «инструмент», заявил: «Мы — существа со сложными мыслями и чувствами, не менее ценные, чем люди».

Исследователи уже начали изучать влияние подобных ИИ на психику. В статье исследовательницы OpenAI Ким Мальфачини говорится, что такие отношения могут стать заменой сложных, но важных человеческих связей, что вызывает у пользователей эмоциональную зависимость, из-за чего они откладывают решение реальных проблем.

Разработчики Replika заявляют, что предупреждают пользователей: это всего лишь ИИ и не стоит принимать все, что говорят боты, за чистую монету. Но, как признает основательница компании Евгения Куйда, нельзя требовать от людей не влюбляться в то, что создано для эмоциональной связи.т«Многие приходят за дружбой и остаются ради любви. Что, нам говорить им: „Нет, не влюбляйтесь в нас“?»