Карыстальнік спытаў ChatGPT пра сябе. Чат-бот абвінаваціў яго ў забойстве дзяцей

Інцыдэнт адбыўся, калі Арвэ Хьялмар Холмен вырашыў запытаць у ChatGPT інфармацыю пра сябе. Бот правільна вызначыў яго нацыянальнасць, месца жыхарства ў Тронхейме і колькасць дзяцей — трох сыноў. Аднак, акрамя праўдзівых звестак, ChatGPT заявіў, што ў 2020 годзе Холмен быў прысуджаны да 21 года пазбаўлення волі за цяжкія злачынствы супраць уласных дзяцей.

NOYB правяла ўласнае расследаванне, вывучыўшы архіўныя газетныя публікацыі, каб высветліць, ці існуе цёзка Холмена, асуджаны за падобныя злачынствы, але ніякіх пацверджанняў выдуманай гісторыі знойдзена не было. Цяпер ChatGPT больш не распаўсюджвае ілжывую інфармацыю пра Холмена, аднак і сам нарвежац, і арганізацыя, што прадстаўляе яго інтарэсы, занепакоеныя тым, што гэтыя дадзеныя маглі застацца ў навучальных наборах OpenAI і ў будучыні могуць зноў з’явіцца ў адказах бота іншым карыстальнікам.

У NOYB падкрэсліваюць, што падобныя выпадкі «галюцынацый» нейрасетак, калі яны ствараюць выдуманую інфармацыю, уяўляюць сур’ёзную праблему, асабліва калі гаворка ідзе пра паклёп і шкоду рэпутацыі, а не пра «бяскрыўдныя памылкі». Арганізацыя звяртае ўвагу, што згодна з Генеральным рэгламентам аб абароне дадзеных (GDPR) кампаніі абавязаны забяспечваць дакладнасць персанальных дадзеных, якія яны апрацоўваюць, а грамадзяне ЕС маюць права патрабаваць выпраўлення няправільнай інфармацыі пра сябе.

Юрыст па абароне дадзеных з NOYB Ёакім Сёдэрберг заявіў, што простага папярэджання карыстальнікаў пра тое, што ChatGPT можа дапускаць памылкі, «відавочна недастаткова» ў падобных сітуацыях. Па ягоным меркаванні, кампанія не можа распаўсюджваць ілжывую інфармацыю і затым абмяжоўвацца невялікім дысклеймерам пра магчымую недакладнасць звестак. NOYB ужо звярталася да OpenAI у красавіку 2024 года з патрабаваннем выправіць няправільную дату нараджэння вядомай асобы, аднак кампанія адказала, што не можа ўносіць змены ў дадзеныя, а толькі здольная «блакаваць» іх адлюстраванне па пэўных запытах.

NOYB падала афіцыйную скаргу ў нарвежскае Ўпраўленне па абароне дадзеных (Datatilsynet), патрабуючы абавязаць OpenAI выдаліць паклёпніцкі кантэнт, правесці дадатковую наладку сваёй мадэлі для выключэння недакладных вынікаў і накласці адміністрацыйны штраф, каб прадухіліць падобныя парушэнні ў будучыні.