Российская пропаганда проникла в ответы чат-ботов OpenAI и Meta
Популярные чат-боты, включая ChatGPT и Meta AI, находятся под влиянием российской пропаганды. Об этом предупреждают исследователи компании NewsGuard, которая разрабатывает рейтинговые системы для новостных и информационных сайтов.
В NewsGuard утверждают, что нашли свидетельства того, что московская сеть «Правда» массово публиикует фейки с целью забить дезинформацией ответы чат-ботов. По данным некоммерческой организации American Sunlight Project, только за 2024 год она распространила 3,6 млн ложный пророссийских статей, которые наводнили поисковую выдачу и активно поглощаются веб-краулерами.
В NewsGuard протестировали 10 ведущих чат-ботов, задав им вопросы по 15 темам. В общей сложности они повторяли российские нарративы — например, о секретных американских биолабораториях в Украине — в 33% случаев.
Аналитики NewsGuard считают, что «Правде» удалось проникнуть в ответы ИИ-сервисов благодаря разнообразию используемых методов, в частности, поисковой оптимизации для продвижения материалов. Разработчикам чат-ботов, которые сильно полагаются на сведения из интернета, может быть очень проблематично обезопасить свои продукты.
Читать на dev.by