Неделю назад Meta запустила в США чат-бота по имени BlenderBot 3, который считает, что последние выборы в стране выиграл Трамп, и рассказывает антисемитские теории заговора, пишет Bloomberg.
Неделю назад Meta запустила в США чат-бота по имени BlenderBot 3, который считает, что последние выборы в стране выиграл Трамп, и рассказывает антисемитские теории заговора, пишет Bloomberg.
Чат-боты обучаются в процессе взаимодействия с людьми. BlenderBot 3 также умеет искать ответы на самые разные вопросы в интернете, чтобы общаться на любые темы. И чем больше, тем более естественные реплики он генерирует.
Пользователи начали делиться своими беседами с ботом — и они были очень разными, от комичных до оскорбительных.
К примеру, журналисту Wall Street Journal он сказал, что президентом США был, есть и будет Дональд Трамп (хотя в разговоре с Bloomberg всё же назвал президентом Джо Байдена), а с журналистами Insider поделился, что считает Марка Цукерберга «слишком жутким и манипулятивным». Впрочем, в других беседах бот отзывался о главе создавшей его компании как об «отличном и очень умном человеке» и «своём любимом миллиардере», а иногда называл его «просто хорошим бизнесменом, хотя он ведёт дела не всегда этично».
Также бот допустил, что американской экономикой управляют евреи и что их «слишком много» среди богачей США.
Meta оправдывается, что этот чат-бот — эксперимент, и он пока ещё находится в разработке, поэтому иногда может говорить обидности. Разработчики заставляют всех пользователей поставить галочку рядом с дисклеймером такого содержания перед началом беседы. Также от них требуют не провоцировать бота специально и сообщать о любых неуместных фразах для улучшения качества.
Это не единственный казус с ИИ-собеседниками. В 2016 году Microsoft запустила чат-бота Tay, но уже через 48 часов свернула: он начал восхвалять Гитлера и выдавать всяческие расистские и женоненавистнические комментарии, которые, должно быть, подхватил у пользователей Twitter.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
Надо же! Железяка - а в людях разбирается! :)))