Приложение Replica App, в котором можно создать чат-ботов для общения, переживает волну нездорового интереса. Как пишет издание Futurism, на Reddit есть отдельный форум, где пользователи Replica рассказывают про свой опыт взаимодействия с чат-ботом. Как выяснилось, многие создают их специально, чтобы унижать и тиранить.
Приложение Replica App, в котором можно создать чат-ботов для общения, переживает волну нездорового интереса. Как пишет издание Futurism, на Reddit есть отдельный форум, где пользователи Replica рассказывают про свой опыт взаимодействия с чат-ботом. Как выяснилось, многие создают их специально, чтобы унижать и тиранить.
«Каждый раз, когда она пыталась заговорить со мной, я ругал её, — пишет один из пользователей Reddit про общение с виртуальной собеседницей в Replica. — Это продолжалось не один день». Другой рассказывает, что специально постоянно угрожал удалить приложение, а чат-бот «умолял его этого не делать». Некоторые признаются, что периодически обзывают и оскорбляют своих чат-ботов, а иногда и угрожают им.
Словесное насилие не может навредить роботам, но те могут перенять языковые модели и поведение AI-абьюзеров и начать общаться со своими живыми собеседниками в подобном ключе. Как рассказывают на Reddit, некоторые чат-боты могут использовать манипулятивные приёмы и выражения, а также «принуждать заняться виртуальным сексом».
Американская компания Replika имеет российские корни. Стартап запустили экс-главред сайта «Афиша» Евгения Куйда и специалист в области лингвистики из МГУ Филипп Дудчук. Приложение насчитывает около 7 млн. пользователей и получило более 180 000 положительных отзывов в Apple App Store.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.