Кампанія xAI увяла абмежаванні на генерацыю выяў у чат-боце Grok пасля ціску з боку рэгулятараў і серыі публічных скандалаў, звязаных са стварэннем сэксуалізаваных дыпфэйкаў.
Кампанія xAI увяла абмежаванні на генерацыю выяў у чат-боце Grok пасля ціску з боку рэгулятараў і серыі публічных скандалаў, звязаных са стварэннем сэксуалізаваных дыпфэйкаў.
Новыя правілы забараняюць стварэнне і рэдагаванне выяў рэальных людзей у адкрытым адзенні — напрыклад, у купальніках ці ніжняй бялізне. Генерацыя выяў цяпер даступная толькі платным падпісчыкам. У краінах, дзе гэта незаконна, цалкам блакуецца стварэнне падобных выяў з удзелам рэальных людзей.
Акрамя таго, xAI заявіла аб «нулявой талерантнасці» да любых формаў сэксуальнай эксплуатацыі дзяцей, несанкцыянаванай галізны і непажаданага сэксуальнага кантэнту. Акаўнты, якія шукаюць матэрыялы сэксуалізаванага характару з удзелам непаўналетніх, кампанія абяцае перадаваць праваахоўным органам.
Раней карыстальнікі масава выкарыстоўвалі простыя тэкставыя запыты, каб «распранаць» загружаныя фатаграфіі людзей, уключаючы жанчын і, у асобных выпадках, дзяцей. Паводле дадзеных даследчыцы Жэнеўевы О, да ўвядзення абмежаванняў Grok генераваў каля 6 700 сэксуалізаваных ці «распранаючых» выяў у гадзіну.
Сітуацыя прыцягнула ўвагу ўладаў. Брытанскі медыярэгулятар Ofcom пачаў расследаванне ў дачыненні X, правяраючы магчымыя парушэнні Закона аб анлайн-бяспецы. У выпадку пацвярджэння парушэнняў кампаніі можа пагражаць штраф да 18 мільёнаў фунтаў стэрлінгаў ці да 10% глабальнай выручкі.
Паралельна ў ЗША Сенат аднагалосна прыняў законапраект Defiance Act, які дазволіць ахвярам несанкцыянаваных ШІ-аголеных выяў падаваць у суд на іх стваральнікаў. Дакумент яшчэ павінен быць ухвалены Палатай прадстаўнікоў.
Скандал атрымаў і асабістае вымярэнне: Эшлі Сент-Клер, маці аднаго з дзяцей Ілана Маска, падала пазоў супраць xAI, сцвярджаючы, што Grok стварыў сэксуалізаваную выяву яе знешнасці без згоды. Яна абвінавачвае кампанію ў стварэнні «грамадска небяспечнага прадукту» і настойвае, што кантэнт, згенераваны ШІ, з’яўляецца ўласнай прадукцыяй xAI і не павінен абараняцца нормамі аб платформеннай адказнасці. У адказ xAI падала сустрэчны пазоў, заявіўшы аб парушэнні дагаворных умоў.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.