Впервые в истории дипфейк, созданный искусственным интеллектом, от лица погибшего призвал к прощению убийцы. Спорное использование этой технологии вызвало у защиты аргументы для апелляции.
Впервые в истории дипфейк, созданный искусственным интеллектом, от лица погибшего призвал к прощению убийцы. Спорное использование этой технологии вызвало у защиты аргументы для апелляции.
Кристофер Пелки, 37-летний ветеран армии США, был застрелен в 2021 году во время инцидента на дороге в Чандлере, штат Аризона. Его семья предложила использовать аватар, созданный с помощью ИИ, для представления Пелки в суде. Сестра Пелки, Стейси Уэйлс, написала текст заявления, стремясь передать то, что, по ее мнению, сказал бы ее брат. «Цель была в том, чтобы очеловечить Криса, достучаться до судьи и показать, какое влияние он оказал на этот мир и что он существовал», — рассказала Уэйлс.
Аватар Пелки появился в видеоролике и был показан во время слушаний с одобрения судьи Тодда Ланга. Аватар признал свою искусственную природу и выразил прощение в адрес обвиняемого, осужденного ранее в этом году за непредумышленное убийство и создание опасности. «Габриэлю Хоркаситасу, человеку, который меня застрелил: Жаль, что мы столкнулись в тот день при таких обстоятельствах. В другой жизни мы, вероятно, могли бы быть друзьями. Я верю в прощение», — сказал аватар.
Несмотря на просьбу о снисхождении, судья Ланг приговорил обвиняемого к максимальному сроку в 10,5 лет тюрьмы, отметив «искреннее» прощение аватара, которое отражало характер Пелки. Однако использование дипфейка вызвало оживленные споры, и защита утверждает, что это создает основания для апелляции. Адвокат защиты Джейсон Ламм заявил: «Хотя у судей, безусловно, есть свобода в том, что слушать, особенно от жертв, апелляционный суд должен будет решить, была ли это ошибка».
Возникают юридические и этические опасения по поводу прецедента, созданного этим делом. Профессор права Университета штата Аризона Гэри Марчант предупредил об «опасной почве», на которую вступают юристы, представляя симуляцию умершего человека. «Вы видите, как этот человек говорит в зале суда, а в реальности он мертв и не говорит», — сказал эксперт.
Аналогично профессор права Университета Колорадо Гарри Сурден подчеркнул риск того, что контент, созданный ИИ, обходит естественный скептицизм и напрямую апеллирует к эмоциям. Это может подорвать целостность судебных процессов, основанных на доказательствах.
Уэйлс, которая работала над созданием видео вместе со своим мужем и технически подкованным другом семьи, защищала использование ИИ как «еще один способ» передать человечность своего брата. Однако новое применение генеративного ИИ в суде вызвало более широкие опасения по поводу его потенциала манипулировать эмоциями и влиять на судей или присяжных в будущих делах.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.