«Наш мозг апынецца ў слоіку»: прэзідэнт мэсэнджара Signal папярэджвае пра пагрозу ШІ-агентаў

На канферэнцыі SXSW у Остыне Уіттакер патлумачыла, што агенты ШІ пазіцыянуюцца як сродак зрабіць карыстальніцкі досвед больш камфортным. Яны бяруць на сябе розныя анлайн-задачы, такія як пошук канцэртаў, браніраванне квіткоў, планаванне мерапрыемстваў у календары і адпраўку паведамленняў сябрам. Яна задалася пытаннем, ці не прывядзе гэта да таго, што «наш мозг апынецца ў слоіку, бо гэтая рэч робіць усё, і нам не давядзецца да гэтага дакранацца».

Для выканання гэтых задач агенту ШІ спатрэбіцца доступ да розных дадзеных, якія карыстальнікі могуць захацець захаваць у сакрэце. Напрыклад, доступ да вэб-браўзера і магчымасць кіравання ім; інфармацыя аб крэдытнай карце для аплаты квіткоў; доступ да календара, каб бачыць усе запланаваныя сустрэчы і падзеі; доступ да аплікацый для абмену паведамленнямі, такіх як Signal, для адпраўкі паведамленняў сябрам.

Уіттакер падкрэсліла, што агенту ШІ спатрэбіцца «доступ да ўсёй нашай сістэмы з чымсьці, што выглядае як root-правы, доступ да кожнай з гэтых баз дадзеных, хутчэй за ўсё, у адкрытым выглядзе, бо няма мадэлі для шыфравання». Яна таксама адзначыла, што дастаткова магутная мадэль ШІ, хутчэй за ўсё, будзе апрацоўваць дадзеныя па-за межамі прылады, адпраўляючы іх на воблачны сервер і назад.

«Існуе сур’ёзная праблема бяспекі і прыватнасці, якая пераследуе увесь гэты ажыятаж вакол агентаў, і гэта ў выніку пагражае зламаць бар’ер паміж узроўнем аплікацый і ўзроўнем аперацыйнай сістэмы, аб’ядноўваючы ўсе гэтыя асобныя сэрвісы, змешваючы іх дадзеныя і робячы такія рэчы, як падрыў прыватнасці вашых паведамленняў Signal», — заявіла Уіттакер.

Высновы Уіттакер перагукаюцца з занепакоенасцю іншых экспертаў у галіне ШІ. Ёшуа Бенджыа, канадскі даследчык, якога лічаць адным з хросных бацькоў ШІ, таксама папярэдзіў пра рызыкі, звязаныя з агентамі ШІ, адзначыўшы, што «ўсе катастрафічныя сцэнары з AGI ці звышінтэлектам адбываюцца, калі ў нас ёсць агенты». Ён падкрэсліў неабходнасць прызнання гэтых рызыкаў і ажыццяўлення тэхналагічных інвестыцый для забеспячэння бяспекі і надзейнасці ШІ.