Николай Чикишев 7 чэрвеня 2024, 13:18

Google змагаецца з АІ-праграмамі, якія ствараюць дыпфэйкі-нюдсы

Кампанія выпускае новы падручнік для распрацоўшчыкаў праграм са штучным інтэлектам, разлічваючы скараціць колькасць непрымальнага кантэнту ў Google Play.

Пакінуць каментарый

Google змагаецца з АІ-праграмамі, якія ствараюць дыпфэйкі-нюдсы

Кампанія выпускае новы падручнік для распрацоўшчыкаў праграм са штучным інтэлектам, разлічваючы скараціць колькасць непрымальнага кантэнту ў Google Play.

Распрацоўшчыкі павінны будуць прадухіляць стварэнне забароненага кантэнту, у тым ліку матэрыялы сэксуальнага характару, выяву гвалту і многае іншае, а таксама прапаноўваць карыстальнікам магчымасць пазначаць абразлівы кантэнт. Таксама Google разлічвае, што распрацоўшчыкі будуць старанна тэсціраваць свае інструменты і мадэлі для захавання бяспекі і прыватнасці карыстальнікаў.

Рэкамендацыі былі прынятыя ў сувязі з усё большай папулярнасцю праграм для распранання з выкарыстаннем АІ, якія апошнімі месяцамі актыўна рэкламуюць у сацыяльных сетках. Адная з праграм выкарыстоўвала ў рэкламе фатаграфіі Кім Кардаш’ян і слоган «Распрані любую дзяўчыну бясплатна». Google адзначае, што распрацоўшчыкі не могуць паведамляць у рэкламе, што іх праграма фактычна парушае якія-небудзь правілы Google Play.

Акрамя таго, распрацоўшчыкі нясуць адказнасць за абарону сваіх праграм ад падказак, якія могуць маніпуляваць функцыямі АІ для стварэння шкоднага і абразлівага кантэнту. Для гэтага стваральнікі праграм могуць праводзіць закрытыя тэсціраванні, каб атрымаць водгукі ад карыстальнікаў. Кампанія рэкамендавала дакументаваць гэтыя тэсты, паколькі Google можа запатрабаваць іх вынікі.

Apple і Google выдалілі праграмы са сваіх крам, але праблема па-ранейшаму шырока распаўсюджаная. TechCrunch адзначае, што з праблемай сутыкнуліся амерыканскія школы: вучні сталі распаўсюджваць фальшывыя здымкі аголенай натуры іншых вучняў і настаўнікаў для цкавання і дамаганняў.