Чат-бот Claude придумал фальшивую цитату для суда. Разработчику пришлось извиняться

В судебном документе, поданном в суд Северной Калифорнии, Anthropic признала, что чат-бот Claude создал цитату с неверным названием и авторами в экспертном отчете, представленном в рамках текущего судебного спора с музыкальными издателями, включая Universal Music Group, Concord и ABKCO.

Издатели утверждают, что Anthropic незаконно использовала тексты песен, защищенные авторским правом, для обучения Claude. Это разбирательство — часть более широкой волны судебных исков, направленных против ИИ-разработчиков за нарушение интеллектуальной собственности.

Ранее юридическая команда издателей заявила, что экспертный свидетель Anthropic, специалист по данным Оливия Чен, возможно, использовала фальшивый источник, сгенерированный ИИ, для поддержки аргументов компании. «Это была честная ошибка в цитировании, а не фабрикация источника», — написала Дуканович в документе, подчеркнув, что ошибка была непреднамеренной. Anthropic принесла официальные извинения суду.

Anthropic пояснила, что ошибка возникла из-за «галлюцинации» Claude. Указанная цитата ссылалась на реальную статью из журнала The American Statistician, но содержала вымышленное название и неверные имена авторов. Юрист компании отметил, что «ручная проверка цитат» команды не выявила ошибку, как и дополнительные ошибки в оформлении, возникшие при использовании Claude.