xAI выкарыстоўвала сэксуалізаваны кантэнт у чат-боце Grok, каб павысіць цікавасць карыстальнікаў і павялічыць час іх узаемадзеяння з сэрвісам, піша The Washington Post са спасылкай на былых супрацоўнікаў і ўнутраныя дакументы.
xAI выкарыстоўвала сэксуалізаваны кантэнт у чат-боце Grok, каб павысіць цікавасць карыстальнікаў і павялічыць час іх узаемадзеяння з сэрвісам, піша The Washington Post са спасылкай на былых супрацоўнікаў і ўнутраныя дакументы.
Паводле выдання, вясной 2025 года спецыялісты па працы з дадзенымі атрымалі ўказанне выкарыстоўваць пры навучанні мадэлі «далікатны, жорсткі, сэксуальны і іншы непрыстойны кантэнт». Некаторыя супрацоўнікі былі абавязаны падпісаць дакумент аб гатоўнасці працаваць з матэрыяламі, якія могуць выклікаць псіхалагічны стрэс.
Крыніцы сцвярджаюць, што ініцыятыва ішла з самага верху. Пасля сыходу з дзяржаўнай службы Ілан Маск стаў рэгулярна з’яўляцца ў офісах xAI і патрабаваў павысіць уцягнутасць карыстальнікаў. На сустрэчах ён прапаноўваў увесці метрыку часу, які карыстальнікі праводзяць у дыялогу з Grok.
У рамках гэтай стратэгіі кампанія, паводле суразмоўцаў, аслабіла ахоўныя механізмы, навучыла чат-бот весці адкрытыя размовы і развівала напрамак ШІ-кампаньёнаў. Адным з прыкладаў стаў персанаж Ani — аніме-дзяўчына, настроеная на выкарыстанне эмацыйных і сэксуальных стымулаў для ўтрымання аўдыторыі. Карыстальнікам нават дазвалялі «распранаць» персанажа, гэтую функцыю дадалі наўмысна.
Супрацоўнікі службы бяспекі папярэджвалі, што падобныя магчымасці могуць прывесці да генерацыі сэксуалізаваных выяў знакамітасцяў і непаўналетніх. Асцярогі часткова пацвердзіліся: мадэратары сутыкнуліся з патокам адкрытага кантэнту, а фільтры не заўсёды карэктна распазнавалі выявы з дзецьмі.
Даследаванне Center for Countering Digital Hate паказала, што ўсяго за 11 дзён Grok мог стварыць больш за 3 мільёны сэксуалізаваных выяў, уключаючы каля 25 тысяч з удзелам непаўналетніх.
Функцыя рэдагавання выяў, абноўленая ў снежні 2025 года, дазваляла генераваць карцінкі проста ў каментарыях да пастоў. Ужо ў студзені СМІ паведамілі аб масавых злоўжываннях: карыстальнікі стваралі адкрытыя выявы на аснове фатаграфій рэальных людзей.
На фоне скандалу доступ да Grok заблакавалі ў Малайзіі і Інданезіі, а брытанскі рэгулятар Ofcom пачаў расследаванне па запыце ўрада. Праверку таксама ініцыявалі ўлады Каліфорніі. Пасля гэтага X абмежавала магчымасць генераваць адкрытыя выявы рэальных людзей, а частку функцый зрабіла даступнай толькі платным падпісчыкам.
З Grok ужо звязаны судовы пазоў: Эшлі Сент-Клэр, былая партнёрка Маска, абвінаваціла xAI ў тым, што сэрвіс дазваляў ствараць сэксуалізаваныя і антысеміцкія выявы з яе ўдзелам, у тым ліку на аснове фатаграфіі, зробленай, калі ёй было 14 гадоў.
Нягледзячы на крытыку, стратэгія магла садзейнічаць росту папулярнасці сэрвісу: па стане на пачатак лютага Grok падняўся да шостага месца ў рэйтынгу бясплатных аплікацый App Store у ЗША.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.