Бразілец расказаў ChatGPT, што хоча забіць сына. Яго арыштавалі
36-гадовы бразільскі фермер амаль два месяцы абменьваўся з ChatGPT паведамленнямі, у якіх планаваў забіць свайго васьмігадовага сына, напасці на іншых людзей, а потым здзейсніць самагубства, піша Бі-бі-сі.
У адным з паведамленняў мужчына пісаў: «Я прапанаваў яму 50 тысяч, каб ён забіў мяне і майго сына, але ён адмовіўся, бо гаворка ішла пра дзіця». У іншым: «Я хацеў зразумець, адкуль бярэцца гэтае жаданне забіваць людзей. Мне падабаецца бачыць, як пакутуе іншы чалавек».
Гэты выпадак ставіць перад паліцыяй, судамі і распрацоўшчыкамі ШІ ўсё больш актуальнае і складанае пытанне пра тое, што рабіць, калі ШІ-чат-бот выяўляе патэнцыйную пагрозу яшчэ да здзяйснення злачынства.
36-гадовы бразільскі фермер амаль два месяцы абменьваўся з ChatGPT паведамленнямі, у якіх планаваў забіць свайго васьмігадовага сына, напасці на іншых людзей, а потым здзейсніць самагубства, піша Бі-бі-сі.
У адным з паведамленняў мужчына пісаў: «Я прапанаваў яму 50 тысяч, каб ён забіў мяне і майго сына, але ён адмовіўся, бо гаворка ішла пра дзіця». У іншым: «Я хацеў зразумець, адкуль бярэцца гэтае жаданне забіваць людзей. Мне падабаецца бачыць, як пакутуе іншы чалавек».
Гэты выпадак ставіць перад паліцыяй, судамі і распрацоўшчыкамі ШІ ўсё больш актуальнае і складанае пытанне пра тое, што рабіць, калі ШІ-чат-бот выяўляе патэнцыйную пагрозу яшчэ да здзяйснення злачынства.
OpenAI звярнула на паведамленні фермера ўвагу ФБР, якое апавясціла бразільскія ўлады. Адвакат мужчыны сцвярджае, што ягоны падабаронны папросту нёс боту ўсякую лухту і ніякага злачынства не здзяйсняў.
Імя мужчыны не называецца. Ён быў арыштаваны 19 чэрвеня ў сельскай мясцовасці муніцыпалітэта Сан-Габрыел-да-Палья — праз тры дні пасля таго, як падраздзяленне Міністэрства юстыцыі Бразіліі па барацьбе з кіберзлачыннасцю перадало інфармацыю паліцыі штата.
Падазраваны амаль не кантактаваў з сынам і абмяжоўваўся выплатай аліментаў. Следчыя мяркуюць, што адным з матываў магло стаць нежаданне плаціць грошы. Падчас вобшуку паліцыя знайшла ў доме мужчыны чатыры бутэлькі з неўстаноўленымі рэчывамі і вяроўку з завязанай пятлёй, што магло сведчыць пра намер пакончыць з сабой.
Паліцыя таксама лічыць, што ў размовах з ChatGPT падазраваны абмяркоўваў магчымыя напады на школы, цэрквы і супрацоўнікаў паліцыі. У адным з паведамленняў ён пісаў: «Калі я прыйду туды, дзе гандлююць наркотыкамі, і заб’ю прыкладна чатырох злачынцаў, то стану вядомым у горадзе. Пасля гэтага мне застанецца толькі забіць аднаго-двух паліцэйскіх, і я змагу спакойна памерці». У іншым прызнаваўся, што хоча купіць зброю і страляць у паліцэйскіх, каб тыя адкрылі адказны агонь і забілі яго.
Паводле следства, мужчына таксама шукаў інфармацыю пра таксічныя рэчывы і спрабаваў абысці абарончыя абмежаванні ChatGPT, перафармуліруючы свае пытанні. «Усё, пра што платформа паведаміла нам, пацвердзілася, калі паліцэйскія прыбылі на месца», — заявілі ў паліцыі.
Сам мужчына адмаўляе, што хацеў прычыніць шкоду сыну. Ён правёў пад вартай 54 дні і 13 жніўня быў вызвалены. Абвінавачванні яму пакуль не прад’яўлены, але расследаванне працягваецца. Цяпер фермер абавязаны насіць электронны бранзалет і не мае права кантактаваць з сынам або маці дзіцяці. Экспертыза мусіць выявіць, ці прадпрымаў мужчына канкрэтныя крокі для ажыццяўлення сваіх планаў. У прыватнасці, ці сапраўды ён кантактаваў з наёмным забойцам, як нібыта сцвярджаў у размовах з ChatGPT, — бразільскае заканадаўства лічыць злачынства здзейсненым толькі пасля таго, як пачынаецца стадыя яго непасрэднага выканання.
Абарона настойвае, што такіх дзеянняў мужчына не прадпрымаў і што «калі размовы са штучным інтэлектам і ўсякая лухта, сказаная яму, — гэта злачынства, тады ў турму давядзецца адправіць усіх».
Замест ІІ — адзін стомлены чалавек. Экс-гуглер стварыў «горшы чат-бот у свеце», каб людзі зноў пачалі думаць
Праблема доказаў
Выпадкі, калі распрацоўшчыкі ШІ самі паведамляюць пра карыстальнікаў у праваахоўныя органы, пакуль вельмі рэдкія. У жніўні OpenAI перадала ФБР інфармацыю пра 25-гадовага жыхара Флорыды, які падзяліўся планамі згвалтаваць і забіць сваю былую дзяўчыну, паведамлялі амерыканскія СМІ.
Выпадак з фермерам стаў трэцім для Бразіліі, калі падставай для праверкі паслужыў сігнал ад ШІ-кампаніі. Але выкарыстанне падобных сігналаў у расследаваннях парадзіла цэлы шэраг пытанняў — напрыклад, ці могуць паведамленні карыстальніка чат-боту быць прынятыя судом у якасці доказаў. Следчыя сцвярджаюць, што OpenAI прадаставіла ім дадзеныя карыстальніка і адпраўленыя ім паведамленні, але не перадала адказы ChatGPT.
Гэта, паводле адвакатаў, стварае праблему з пункту гледжання доказнай базы, паколькі для ацэнкі паведамленняў патрэбны кантэкст. Яны хочуць бачыць усю перапіску цалкам і разумець, ці рэагаваў чат-бот на словы юзера, ці сам нейкім чынам накіроўваў ход размовы.
Абавязак дзейнічаць і этыка прымянення ШІ
Паводле юрыстаў, у дадзеным выпадку рашэнне перадаць інфармацыю ўладам можна растлумачыць тым, што меркаванай ахвярай было канкрэтнае дзіця. Але яны супраць таго, каб расследаванні, заснаваныя выключна на ацэнках ШІ, ператвараліся ў звычайную практыку — маўляў, так «расследаванне можна будзе пачаць супраць любога чалавека папросту таму, што штучны інтэлект менавіта так растлумачыў ягоныя словы».
Юрысты заклікаюць стварыць механізмы, якія дазваляюць адрозніваць рэальную пагрозу ад эмацыйнага выбуху, фантазій або наўмысна правакацыйных выказванняў.
Некаторыя эксперты лічаць, што пры пэўных акалічнасцях у ШІ-кампаній можа ўзнікаць юрыдычны абавязак паведамляць пра пагрозу ўладам — у прыватнасці, калі размова перастае быць абстрактнай і пачынае ўказваць на канкрэтную пагрозу, вызначаную ахвяру і наяўнасць сродкаў для ажыццяўлення задуманага. Але падкрэсліваюць, што трэба не «кантраляваць усё», а «ўмешвацца толькі тады, калі рызыка гэта апраўдвае», каб пазбегнуць як бяздзейнасці, так і празмернага сачэння.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.
Вот. А пользовался бы китайской LLM никто бы за ним не пришёл.
Или локалочкой в uncersored версии.