Компании все чаще сталкиваются с ИИ-слопом — низкокачественным контентом, созданным нейросетями. Он уже заполняет поиск, отзывы, книги, музыку и соцсети, подрывая доверие пользователей к интернету.
Компании все чаще сталкиваются с ИИ-слопом — низкокачественным контентом, созданным нейросетями. Он уже заполняет поиск, отзывы, книги, музыку и соцсети, подрывая доверие пользователей к интернету.
По данным Gartner, 53% потребителей не доверяют ИИ-результатам и кратким ответам в поиске. Отдельный глобальный опрос Baringo показал, что 70% людей испытывают дискомфорт из-за генеративного контента.
Для брендов это становится серьезной проблемой. Если пользователи заранее считают онлайн-контент подозрительным, компаниям сложнее выстраивать доверие и привлекать внимание. Нил Борнман, руководитель британского медианаправления рекламной группы Publicis Groupe, говорит, что особенно молодая аудитория все чаще исходит из предположения, что почти все в интернете может быть фейком.
Проблема затрагивает и рекламу, и поиск. По словам Борнмана, фейковые отзывы и ИИ-поисковики становятся новым полем борьбы для брендов. Некоторые компании уже видят падение органического поискового трафика на 5–35%, потому что ИИ-системы дают пользователям готовые ответы и не отправляют их на официальные сайты.
В результате бизнес оказывается в сложной ситуации. С одной стороны, компании хотят избежать скандалов из-за ИИ-слопа. С другой — им самим приходится использовать ИИ, чтобы производить больше контента, оставаться заметными в поиске и попадать в ответы ИИ-систем.
Платформы уже начинают реагировать. LinkedIn объявила борьбу с «обобщенным» контентом без оригинальности, YouTube назвал контроль за ИИ-слопом одним из приоритетов, Pinterest маркирует ИИ-изображения, а Spotify удаляет миллионы сгенерированных треков.
Одно из решений — сделать ИИ-слоп менее выгодным. Если такой контент нельзя будет монетизировать, стимул производить его в огромных объемах снизится.
Другой подход — технологии проверки происхождения контента. Компании инвестируют в инструменты верификации, водяные знаки и сервисы отслеживания того, как был создан и изменен цифровой материал.
Но у детекторов есть серьезные ограничения. Они не всегда могут точно определить, создан ли текст человеком или машиной, и часто работают с вероятностями. Это создает риск ложных срабатываний: человеческий текст может быть ошибочно помечен как ИИ-сгенерированный.
Еще одна сложность — размытая граница между допустимой помощью ИИ и слопом. Частичное использование ИИ в тексте не всегда означает слоп, но чем больше доля машинной генерации и чем слабее человеческая проверка, тем труднее компаниям, школам, издателям и платформам оценивать качество и ответственность за такой материал.
Эксперты также предупреждают о гонке технологий. Одни компании создают инструменты для обнаружения ИИ-контента, другие — инструменты, которые делают ИИ-текст более похожим на человеческий и обходят детекторы. При этом люди сами постепенно перенимают стиль ИИ-текстов, что еще сильнее усложняет проверку.
По мнению Мела Морриса, бывшего руководителя Candy Crush и CEO Corpora.ai, проблема не в том, что контент создан с помощью ИИ, а в том, насколько он точен, надежен и полезен. «В какой-то момент нам придется отказаться от предположения, что если что-то создано ИИ, то оно автоматически бесполезно», — сказал он.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.