Бразилец рассказал ChatGPT, что хочет убить сына. Его арестовали
36-летний бразильский фермер почти два месяца обменивался с ChatGPT сообщениями, в которых планировал убить своего восьмилетнего сына, напасть на других людей, а затем покончить с собой, пишет Би-би-си.
В одном из сообщений мужчина писал: «Я предложил ему 50 тысяч, чтобы он убил меня и моего сына, но он отказался, потому что речь шла о ребёнке». В другом: «Я хотел понять, откуда берётся это желание убивать людей. Мне нравится видеть, как страдает другой человек».
Этот случай ставит перед полицией, судами и разработчиками ИИ всё более актуальный и сложный вопрос о том, что делать, если ИИ-чат-бот выявляет потенциальную угрозу ещё до совершения преступления.
36-летний бразильский фермер почти два месяца обменивался с ChatGPT сообщениями, в которых планировал убить своего восьмилетнего сына, напасть на других людей, а затем покончить с собой, пишет Би-би-си.
В одном из сообщений мужчина писал: «Я предложил ему 50 тысяч, чтобы он убил меня и моего сына, но он отказался, потому что речь шла о ребёнке». В другом: «Я хотел понять, откуда берётся это желание убивать людей. Мне нравится видеть, как страдает другой человек».
Этот случай ставит перед полицией, судами и разработчиками ИИ всё более актуальный и сложный вопрос о том, что делать, если ИИ-чат-бот выявляет потенциальную угрозу ещё до совершения преступления.
OpenAI обратила на сообщения фермера внимание ФБР, которое уведомило бразильские власти. Адвокат мужчины утверждает, что его подзащитный просто нёс боту всякую чушь и никакого преступления не совершал.
Имя мужчины не называется. Он был арестован 19 июня в сельской местности муниципалитета Сан-Габриэл-да-Палья — через три дня после того, как подразделение Министерства юстиции Бразилии по борьбе с киберпреступностью передало информацию полиции штата.
Подозреваемый почти не общался с сыном и ограничивался выплатой алиментов. Следователи полагают, что одним из мотивов могло стать нежелание платить деньги. При обыске полиция нашла в доме мужчины четыре бутылки с неустановленными веществами и верёвку с завязанной петлей, что могло говорить о намерении покончить с собой.
Полиция также считает, что в разговорах с ChatGPT подозреваемый обсуждал возможные нападения на школы, церкви и сотрудников полиции. В одном из сообщений он писал: «Если я приду туда, где торгуют наркотиками, и убью примерно четырёх преступников, то стану знаменитым в городе. После этого мне останется только убить одного-двух полицейских, и я смогу спокойно умереть». В другом признавался, что хочет купить огнестрел и стрелять в полицейских, чтобы те открыли ответный огонь и убили его.
По данным следствия, мужчина также искал информацию о токсичных веществах и пытался обойти защитные ограничения ChatGPT, переформулируя свои вопросы. «Всё, о чём платформа сообщила нам, подтвердилось, когда полицейские прибыли на место», — заявили в полиции.
Сам мужчина отрицает, что хотел причинить вред сыну. Он провёл под стражей 54 дня и 13 августа был освобождён. Обвинения ему пока не предъявлены, но расследование продолжается. Сейчас фермер обязан носить электронный браслет и не имеет права контактировать с сыном или матерью ребёнка. Экспертиза должна установить, предпринимал ли мужчина конкретные шаги для осуществления своих планов. В частности, действительно ли он связывался с наёмным убийцей, как якобы утверждал в разговорах с ChatGPT, — бразильское законодательство считает преступление совершённым лишь после того, как начинается стадия его непосредственного исполнения.
Защита настаивает, что таких действий мужчина не предпринимал и что «если разговоры с искусственным интеллектом и всякая чушь, сказанная ему, — это преступление, тогда в тюрьму придётся отправить всех».
Вместо ИИ — один уставший человек. Экс-гуглер создал «худший чат-бот в мире», чтобы люди снова начали думать
Проблема доказательств
Случаи, когда разработчики ИИ сами сообщают о пользователях в правоохранительные органы, пока крайне редки. В августе OpenAI передала ФБР информацию о 25-летнем жителе Флориды, который поделился планами изнасиловать и убить свою бывшую девушку, сообщали американские СМИ.
Случай с фермером стал третьим для Бразилии, когда основанием для проверки послужил сигнал от ИИ-компании. Но использование подобных сигналов в расследованиях порождает целый ряд вопросов, например, могут ли сообщения пользователя чат-боту быть приняты судом в качестве доказательств. Следователи утверждают, что OpenAI предоставила им данные пользователя и отправленные им сообщения, но не передала ответы ChatGPT.
Это, по словам адвокатов, создаёт проблему с точки зрения доказательной базы, поскольку для оценки сообщений нужен контекст. Они хотят видеть всю переписку целиком и понимать, реагировал ли чат-бот на слова юзера или сам каким-либо образом направлял ход разговора.
Обязанность действовать и этика применения ИИ
По словам юристов, в данном случае решение передать информацию властям можно объяснить тем, что предполагаемой жертвой был конкретный ребёнок. Но они против того, чтобы расследования, основанные исключительно на оценках ИИ, превращались в обычную практику — мол, так «расследование можно будет начать против любого человека просто потому, что искусственный интеллект именно так истолковал его слова».
Юристы призывают создать механизмы, позволяющие отличать реальную угрозу от эмоционального выплеска, фантазий или намеренно провокационных высказываний.
Некоторые эксперты считают, что при определённых обстоятельствах у ИИ-компаний может возникать юридическая обязанность сообщать об угрозе властям — в частности, когда разговор перестаёт быть абстрактным и начинает указывать на конкретную угрозу, определённую жертву и наличие средств для осуществления задуманного. Но подчёркивают, что нужно не „контролировать всё“, а „вмешиваться только тогда, когда риск это оправдывает“, чтобы избежать как бездействия, так и чрезмерной слежки.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
Вот. А пользовался бы китайской LLM никто бы за ним не пришёл.
Или локалочкой в uncersored версии.