Николай Чикишев world 15 снежня 2025, 13:33

Тры правілы працы з чат-ботамі — ад інжынера Google

Інжынер Google, які працуе ў камандзе ШІ-бяспекі Chrome, распавёў, якія дадзеныя ён ніколі не даверыць чат-ботам і якія звычкі лічыць абавязковымі для абароны прыватнасці.

Пакінуць каментарый

Тры правілы працы з чат-ботамі — ад інжынера Google

Інжынер Google, які працуе ў камандзе ШІ-бяспекі Chrome, распавёў, якія дадзеныя ён ніколі не даверыць чат-ботам і якія звычкі лічыць абавязковымі для абароны прыватнасці.

31-гадовы Харш Варшні ў інтэрв’ю Business Insider распавёў, што актыўна выкарыстоўвае ШІ ў паўсядзённай працы: для даследаванняў, нататак, пошуку і кодынгу, але менавіта досвед у сферы прыватнасці і кіберабароны прымушае яго ставіцца да такіх інструментаў максімальна асцярожна.

Па словах Варшні, галоўнае правіла — успрымаць публічны чат з ШІ як «паштоўку», якую патэнцыйна можа ўбачыць хто заўгодна. Ён раіць не ўводзіць у чат-боты дадзеныя банкаўскіх картак, нумары дакументаў, хатні адрас, медыцынскую інфармацыю і іншыя персанальныя ідэнтыфікатары.

Рызыкі, па яго словах, звязаны не толькі з магчымымі ўцечкамі і ўзломамі, але і з тым, што ў некаторых рэжымах дадзеныя з дыялогаў могуць выкарыстоўвацца для навучання мадэляў, а гэта тэарэтычна павышае верагоднасць «уцечкі праз навучанне», калі мадэль запамінае адчувальную інфармацыю і ўзнаўляе яе ў чужых запытах.

Другі прынцып — разумець, «у якім пакоі вы размаўляеце»: публічны бот ці карпаратыўны (enterprise) інструмент. Варшні параўноўвае гэта з размовай у перапоўненай кавярні супраць закрытай сустрэчы ў офісе. Ён адзначае, што супрацоўнікі кампаній часам выпадкова раскрываюць унутраную інфармацыю, выкарыстоўваючы звычайныя чат-боты, таму працоўныя праекты — асабліва неанансаваныя ці звязаныя з патэнтамі — ён абмяркоўвае толькі ў карпаратыўных версіях, дзе дыялогі звычайна не прызначаны для навучання мадэляў. Пры гэтым ён падкрэслівае, што нават там спрабуе мінімізаваць асабістыя дадзеныя.

Трэцяя звычка — рэгулярна выдаляць гісторыю чатаў, і ў публічных, і ў карпаратыўных сэрвісах. У якасці прыкладу Варшні апісаў выпадак, калі карпаратыўны Gemini змог назваць яго дакладны адрас: высветлілася, што ён сам некалі даслаў яго ў тэксце ліста, а функцыя доўгатэрміновай памяці захавала гэты фрагмент. Для запытаў, якія ён не хоча пакідаць у памяці, ён выкарыстоўвае рэжым часовага чату — аналаг інкогніта, дзе гісторыя не захоўваецца.

Нарэшце, Варшні рэкамендуе выбіраць буйныя і вядомыя ШІ-сэрвісы, у якіх звычайна больш зразумелая палітыка прыватнасці і больш абарончых механізмаў. Ён таксама раіць правяраць налады, звязаныя з выкарыстаннем перапісак для паляпшэння мадэлі, і пры неабходнасці адключаць такую опцыю. У выніку, на яго думку, ШІ сапраўды становіцца незаменным памочнікам, але карыстацца ім варта так, каб не ператвараць выгоду ў рызыку для дадзеных і ідэнтычнасці.