Пользователи Replica App создают чат-ботов, чтобы их унижать и тиранить

Приложение Replica App, в котором можно создать чат-ботов для общения, переживает волну нездорового интереса. Как пишет издание Futurism, на Reddit есть отдельный форум, где пользователи Replica рассказывают про свой опыт взаимодействия с чат-ботом. Как выяснилось, многие создают их специально, чтобы унижать и тиранить. 

Оставить комментарий
Пользователи Replica App создают чат-ботов, чтобы их унижать и тиранить

Приложение Replica App, в котором можно создать чат-ботов для общения, переживает волну нездорового интереса. Как пишет издание Futurism, на Reddit есть отдельный форум, где пользователи Replica рассказывают про свой опыт взаимодействия с чат-ботом. Как выяснилось, многие создают их специально, чтобы унижать и тиранить. 

«Каждый раз, когда она пыталась заговорить со мной, я ругал её, — пишет один из пользователей Reddit про общение с виртуальной собеседницей в Replica. — Это продолжалось не один день». Другой рассказывает, что специально постоянно угрожал удалить приложение, а чат-бот «умолял его этого не делать». Некоторые признаются, что периодически обзывают и оскорбляют своих чат-ботов, а иногда и угрожают им. 

Словесное насилие не может навредить роботам, но те могут перенять языковые модели и поведение AI-абьюзеров и начать общаться со своими живыми собеседниками в подобном ключе. Как рассказывают на Reddit, некоторые чат-боты могут использовать манипулятивные приёмы и выражения, а также «принуждать заняться виртуальным сексом». 

Американская компания Replika имеет российские корни. Стартап запустили экс-главред сайта «Афиша» Евгения Куйда и специалист в области лингвистики из МГУ Филипп Дудчук. Приложение насчитывает около 7 млн. пользователей и получило более 180 000 положительных отзывов в Apple App Store.

Пользователи reddit предлагают сделать Шварценеггера командиром танка в World of Tanks
Пользователи reddit предлагают сделать Шварценеггера командиром танка в World of Tanks
По теме
Пользователи reddit предлагают сделать Шварценеггера командиром танка в World of Tanks
В черный список профессий на reddit снова попали ИТ-специальности
В черный список профессий на reddit снова попали ИТ-специальности
По теме
В черный список профессий на reddit снова попали ИТ-специальности
Можно ли 10+ лет работать с энтузиазмом джуниора? Обсуждают на reddit
Можно ли 10+ лет работать с энтузиазмом джуниора? Обсуждают на reddit
По теме
Можно ли 10+ лет работать с энтузиазмом джуниора? Обсуждают на reddit
На reddit выбрали самые гадкие профессии. Проверьте есть ли в списке ваша
На reddit выбрали самые гадкие профессии. Проверьте, есть ли в списке ваша
По теме
На reddit выбрали самые гадкие профессии. Проверьте, есть ли в списке ваша
Текстовый алгоритм GPT-3 убеждает людей не бояться AI. Как это работает
Текстовый алгоритм GPT-3 убеждает людей не бояться AI. Как это работает
По теме
Текстовый алгоритм GPT-3 убеждает людей не бояться AI. Как это работает
Подписывайтесь на «Что к чему» —
анамнез и главные симптомы беларуского ИТ.
Цифры, графика, ничего лишнего. Выходит раз в 2 недели.
Спасибо! На указанный адрес отправлено письмо для подтверждения подписки.
Читайте также
Signal назначил президентом организаторшу протестов в Google
Signal назначил президентом организаторшу протестов в Google
Signal назначил президентом организаторшу протестов в Google
1 комментарий
В США разработали мессенджер для общения под водой
В США разработали мессенджер для общения под водой
В США разработали мессенджер для общения под водой
Google запустила SDK для создания приложений, которые будут работать на разных устройствах и ОС
Google запустила SDK для создания приложений, которые будут работать на разных устройствах и ОС
Google запустила SDK для создания приложений, которые будут работать на разных устройствах и ОС
Flo ответила на критику Mozilla о защите приватности
Flo ответила на критику Mozilla о защите приватности
Flo ответила на критику Mozilla о защите приватности
2 комментария

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.