Даследчыкі з Цюрыхскага ўніверсітэту таемна правялі шматмесячны эксперымент, выкарыстоўваючы згенэраваныя штучным інтэлектам каментары ў адной з суполак Reddit. Навукоўцы хацелі зразумець, наколькі вялікія моўныя мадэлі могуць быць пераканаўчымі.
Даследчыкі з Цюрыхскага ўніверсітэту таемна правялі шматмесячны эксперымент, выкарыстоўваючы згенэраваныя штучным інтэлектам каментары ў адной з суполак Reddit. Навукоўцы хацелі зразумець, наколькі вялікія моўныя мадэлі могуць быць пераканаўчымі.
Згодна з паведамленнем мадэратараў суполкі r/changemyview, даследчыкі выкарыстоўвалі ўліковыя запісы ботаў для публікацыі каментароў у адказ на допісы карыстальнікаў. Суполка налічвае 3,8 мільёна ўдзельнікаў. На працягу некалькіх месяцаў боты апублікавалі больш за тысячу каментароў.
У ходзе эксперыменту ШІ прымаў мноства розных ідэнтычнасцяў, каб зрабіць каментары больш пераканаўчымі. Сярод ілжывых вобразаў былі «ахвяра сексуальнага гвалту», «кансультант па траўмах, які спецыялізуецца на жорсткім абыходжанні», «чорнаскуры мужчына, які выступае супраць руху Black Lives Matter», а таксама хтосьці, хто «працуе ў прытулку для ахвяраў хатняга гвалту».
Некаторыя з гэтых каментароў былі пазней выдаленыя, але іх можна знайсці ў архіве. Напрыклад, бот пад нікам flippitjiBBer апублікаваў каментар пра сексуальны гвалт над мужчынамі, выдаючы сябе за мужчыну, які перажыў згвалтаванне ў непаўналетнім узросце. Іншы бот, genevievestrome, прадставіўся «чорнаскурым мужчынам», разважаючы пра розніцу паміж «прадузятасцю» і «расізмам».
Даследчыкі не толькі выкарыстоўвалі ШІ для генерацыі адказаў, але і спрабавалі персаналізаваць іх. Для гэтага яны збіралі асабістыя звесткі каментатараў (пол, узрост, этнічная прыналежнасць, месцазнаходжанне і палітычная арыентацыя), меркаваныя на аснове папярэдняй гісторыі паведамленняў з дапамогай іншай моўнай мадэлі.
Мадэратары r/changemyview адзначаюць, што дзеянні даследчыкаў парушылі адразу некалькі правілаў суполкі. У прыватнасці, было парушана правіла, якое патрабуе абавязковага раскрыцця інфармацыі аб выкарыстанні ШІ для генерацыі кантэнту, а таксама правіла, якое забараняе ботаў. Мадэратары падалі афіцыйную скаргу ў Цюрыхскі ўніверсітэт і запатрабавалі, каб даследчыкі адклікалі публікацыю іх навуковай працы.
Reddit таксама разглядае магчымасць судовага пазову. Галоўны юрысконсульт Reddit Бэн Лі заявіў, што дзеянні даследчыкаў былі «глыбока няправільнымі як з маральнага, так і з юрыдычнага пункту гледжання» і парушылі правілы платформы. Reddit ужо заблакаваў усе ўліковыя запісы, звязаныя з гэтым даследаваннем, і плануе ўзмацніць магчымасці па выяўленні ненадзейнага кантэнту.
Са свайго боку, даследчыкі заявілі, што іх даследаванне было зацверджана ўніверсітэцкім камітэтам па этыцы. Яны сцвярджаюць, што патэнцыйныя перавагі даследавання значна пераважаюць яго рызыкі. На іх думку, кантраляванае даследаванне з нізкім узроўнем рызыкі дало каштоўную інфармацыю пра рэальныя пераканаўчыя здольнасці моўных мадэляў, якія ўжо лёгка даступныя і могуць быць выкарыстаныя зламыснікамі ў значна больш небяспечных мэтах.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.