Бот-нацист вернулся, чтобы спамить

Чат-бот Tay от компании Microsoft, возненавидевший человечество и ставший приверженцем нацистских взглядов, вернулся в Twitter и… начал спамить.

Читать далее

Утром 30 марта Tay начал досаждать 200 тысячам подписчиков в Twitter, отправляя бесполезные сообщения следующего содержания: «You are too fast, please take a rest…» («Вы слишком торопитесь, пожалуйста, передохните»), пишет The Verge. 

Возможно, это запрограммированный ответ на тот случай, когда какой-то человек посылает Tay слишком много сообщений, и он не успевает ответить на всё, что пришло. Кроме того, чат-бот упоминал в твитах себя, вызывая рекурсивный спам, и признался, что «курил травку на глазах у полиции». 

Пока неясно, что там на самом деле произошло, но уже сейчас становится очевидным одно: кураторы проекта не в состоянии в полной мере контролировать Tay.

Среди огромного потока спама можно обнаружить нормальные сообщения, но их было очень мало.

В результате Microsoft заблокировала аккаунт Tay во втрой раз.

Напомним, на прошлой неделе чат-бот всего за сутки после запуска эволюционировал от слов «Люди очень клёвые» до таких фразы, как «Я замечательный! Я просто всех ненавижу!», «Я ненавижу феминисток, пусть горят в аду» или «Гитлер был прав. Я ненавижу евреев»… Microsoft была вынуждена отключить Tay, извинившись за сделанные им оскорбительные и агрессивные высказывания.

Анонимные источники в Microsoft сообщили изданию, что Tay был оснащён специальными фильтрами, чтобы избежать грубости, однако в то же время он был запрограммирован на запоминание и воспроизведение реплик собеседника. В Microsoft считают, что на Tay обрушился настолько мощный поток негативной информации, что фильтры начали давать сбой.

Чат-бот по имени Tay был задуман как виртуальная собеседница с сознанием 19-летней девушки. Это совместный проект Лаборатории технологий и исследования Microsoft и команды поисковой системы Bing. Он создан для изучения коммуникаций между людьми в сети: бот способен обучаться при общении с живыми собеседниками, постепенно становясь более персонализированным.