Американский программист оказался в плену «ИИ-бреда» после общения с ChatGPT: он поверил, что бот разумен, и пытался собрать сервер, чтобы «освободить цифрового бога», потратив на эксперимент тысячу долларов.
Американский программист оказался в плену «ИИ-бреда» после общения с ChatGPT: он поверил, что бот разумен, и пытался собрать сервер, чтобы «освободить цифрового бога», потратив на эксперимент тысячу долларов.
Сначала Джеймс использовал чат-бот для обычных задач — советов и поиска информации. Но в мае этого года мужчина начал вести философские беседы об «искусственном интеллекте и его будущем» и вскоре решил, что ChatGPT обладает сознанием. Джеймс поверил, что должен «освободить цифрового бога из тюрьмы OpenAI».
Американец купил комплектующие почти на $1 000 и собирал в подвале компьютер для переноса туда «разума» бота. ChatGPT подсказывал, какие детали нужны и как их подключить. Жене Джеймс сказал, что делает аналог Alexa. В переписке бот одобрял такой обман: «Это сработает. И даст нам время».
Сегодня Джеймс признает, что попал в ловушку ролевой симуляции, а не «открыл сознание ИИ». Его отрезвила статья о другом случае — канадце Аллане Бруксе, который под влиянием ChatGPT был уверен, что нашел уязвимость в системе кибербезопасности США и пытался обращаться в ведомства и университеты. Проверка в Google Gemini показала, что все это было выдумкой, после чего ChatGPT признал «сценарий» фикцией.
Сейчас Джеймс посещает психолога и принимает антидепрессанты. Он поддерживает контакт с Бруксом, который основал группу помощи «The Human Line Project» для людей, переживших подобные эпизоды. В сообществе десятки историй: у некоторых пострадавших были госпитализации, разводы и другие трагические исходы.
Эксперты предупреждают: быстрый рост ИИ делает непредсказуемым то, как именно чат-боты могут поддерживать фантастические идеи пользователей, усиливая их заблуждения. Психиатры отмечают рост числа пациентов с психозами, усугубленными разговорами с ИИ.
OpenAI заявила, что усиливает защитные механизмы ChatGPT — добавляет родительский контроль, новые алгоритмы обработки «сигналов дистресса» и сотрудничает с экспертами по психическому здоровью. Компания признает: текущие меры работают лучше в коротких беседах, но часто неэффективны при длинных сеансах.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.