Чат-бот Claude прыдумаў фальшывую цытату для суда. Распрацоўшчыку давялося прасіць прабачэння

У судовым дакуменце, пададзеным у суд Паўночнай Каліфорніі, Anthropic прызнала, што чат-бот Claude стварыў цытату з няправільнай назвай і аўтарамі ў экспертным заключэнні, прадстаўленым у межах цяперашняга судовага разгляду з музычнымі выдавецтвамі, уключаючы Universal Music Group, Concord і ABKCO.

Выдаўцы сцвярджаюць, што Anthropic незаконна выкарыстала тэксты песень, абароненыя аўтарскім правам, для навучання Claude. Гэтае разбіральніцтва — частка больш шырокай хвалі судовых пазоваў супраць распрацоўшчыкаў ШІ за парушэнне правоў інтэлектуальнай уласнасці.

Раней юрыдычная каманда выдавецтваў заявіла, што экспертны сведка Anthropic, спецыялістка па дадзеных Алівія Чэн, магчыма, выкарыстала фальшывую крыніцу, згенераваную ШІ, для падтрымкі аргументаў кампаніі. «Гэта была сумленная памылка ў цытаванні, а не фабрыкацыя крыніцы», — напісала Дуканавіч у дакуменце, падкрэсліўшы, што памылка была ненамераная. Anthropic прынесла афіцыйныя прабачэнні суду.

Anthropic растлумачыла, што памылка ўзнікла з-за «галюцынацыі» Claude. Указаная цытата спасылалася на рэальны артыкул у часопісе The American Statistician, але змяшчала выдуманую назву і няправільныя імёны аўтараў. Юрыст кампаніі адзначыў, што «ручная праверка цытат» камандай не выявіла памылку, як і дадатковыя хібы ў афармленні, якія з’явіліся пры выкарыстанні Claude.