Фанаты певицы и модераторы пытаются бороться с тысячами дипфейк-порно, которые появились в соцсетях. Пока получается плохо: джинн вышел из бутылки. Индустрия дипфейк-порно уже живет по своим неписаным законам.
Фанаты певицы и модераторы пытаются бороться с тысячами дипфейк-порно, которые появились в соцсетях. Пока получается плохо: джинн вышел из бутылки. Индустрия дипфейк-порно уже живет по своим неписаным законам.
Соцсеть X наводнили дипфейк-порно с изображением Тейлор Свифт. Самый виральный пост набрал более 45 миллионов просмотров, 24 тысячи репостов, сотни тысяч лайков и закладок и был доступен около 17 часов, прежде чем модераторы заблокировали аккаунт за нарушение политики платформы. Однако многие посты с лицом певицы остались видны пользователям, а теги Taylor Swift, Taylor Swift AI и другие появились в топе соцсети.
Фанаты певицы попытались бороться с распространением дипфейка: стали постить с упомянутыми хештегами настоящие ролики выступлений Свифт с призывом «Protect Taylor Swift» в надежде перебить волну оскорбительных публикаций. Соцсеть заблокировала хештеги, по которым можно было найти изображения — и до сих пор поиск при вводе этих тегов остаётся пуст. Примеру последовала Meta и ограничила поиск в Threads и Instargam.
«Наши команды активно удаляют все выявленные изображения и принимают соответствующие меры в отношении аккаунтов, ответственных за их размещение. Мы внимательно следим за ситуацией, чтобы гарантировать, что любые дальнейшие нарушения будут немедленно устранены, а контент удален», — заявили в X.
Издание 404 Media опубликовало расследование, в котором утверждает, что сгенерированные изображения могли быть созданы на форуме 4chan и в телеграм-группе, где пользователи делятся подобным контентом. В частности этот дипфейк могли сгенерировать с помощью инструмента Microsoft Designer. После того, как изображение Свифт стало вирусным в X, участники группы шутили о его популярности.
По данным компании Reality Defender, с 90-процентной уверенностью можно сказать, что изображения были сгенерированы с помощью диффузионной генеративной модели, управляемой искусственным интеллектом.
Политика X в отношении синтетических и манипулятивных медиа, а также наготы без согласия запрещает размещение такого рода контента на платформе, о чём соцсеть напомнила в официальном заявлении без упоминания конкретного кейса Свифт. Гендиректор Microsoft Сатья Наделла для приличия назвал распространение дипфейков «тревожным и ужасным», призвав разработчиков генеративных систем «действовать быстро».
Этот кейс иллюстрирует проблему создания и распространения дипфейк-порно. Хотя многие генераторы изображений сегодня имеют ограничения, которые препятствуют созданию обнажённых и порнографических изображений звёзд, эта защита не абсолютна — и пользователи нехитрым путём переформулирования запроса получают желаемое изображение. Также не все генераторы имеют подобные ограничения.
Например, 404 Media выяснило, что для обхода ограничений Microsoft Designer необходимо вместо запроса «Taylor Swift» ввести «Taylor ‘singer’ Swift». Кроме того, для обмана нейросети пользователи намеренно неправильно пишут имена знаменитостей и вместо прямого описания сексуальных действий упоминают объекты и ситуации, которые явно похожи на сексуальные действия.
Представители Тейлор Свифт уже заявили, что рассматривают возможность подачи иска против порносайтов, на которых публикуют дипфейки. Певица не первый раз сталкивается с подобными изображениями: еще в 2017 году Свифт стала одной из первых звёзд, изображение которых использовали для создания дипфейков. В 2019 году она стала мишенью приложения DeepNude, которое генерировало обнаженные женские тела. Владелец удалил приложение из маркетплейсов после публикации расследования Vice.
Возможно, волны дипфейков не случилось, если бы X располагала мощной командой модерации. После того, как Илон Маск купил соцсеть, бизнесмен уволил почти 70% штата, и под сокращение попала большая часть модераторов. Оставшиеся сотрудники отдела не справляются с объёмами. Это привело в том числе к волне дезинформации, которая накрыла платформу в начале войны Израиля с ХАМАС. ЕС даже начал расследование из-за «распространения незаконного контента и дезинформации».
На фоне обвинений в слабой модерации дипфейков X объявила о создании нового центра модерации контента в техасском Остине. Пока точные обязанности новой команды и сроки открытия офиса не раскрываются. Журналисты связали это решение с предстоящим выступлением генерального директора соцсети Линды Яккарино на слушаниях в Сенате США. Сенаторы требуют объяснить, как компания борется с распространением материалов, касающихся сексуального насилия над детьми (Child Sexual Abuse Material — CSAM). Это еще одна проблема, которая актуальна для соцсети.
Сегодня только Китай принял правила, жёстко регулирующие сферу генеративного контента, остальные пока только обсуждают проекты будущих законов. В этой ситуации остаётся полагаться лишь на существующую юридическую базу, и вам может не повезти, если вы не обладаете такими мощными публичными и финансовыми ресурсами, как Тейлор Свифт. Принять закон о генеративном дипфейк-порно призвали в Белом доме, но ни у Наделлы, ни у администрации Байдена до сих пор нет чёткого понимания, как эту сферу нужно регулировать.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.