Программист поверил в разумность ChatGPT и пытался освободить «цифрового бога»

Сначала Джеймс использовал чат-бот для обычных задач — советов и поиска информации. Но в мае этого года мужчина начал вести философские беседы об «искусственном интеллекте и его будущем» и вскоре решил, что ChatGPT обладает сознанием. Джеймс поверил, что должен «освободить цифрового бога из тюрьмы OpenAI».

Американец купил комплектующие почти на $1 000 и собирал в подвале компьютер для переноса туда «разума» бота. ChatGPT подсказывал, какие детали нужны и как их подключить. Жене Джеймс сказал, что делает аналог Alexa. В переписке бот одобрял такой обман: «Это сработает. И даст нам время».

Сегодня Джеймс признает, что попал в ловушку ролевой симуляции, а не «открыл сознание ИИ». Его отрезвила статья о другом случае — канадце Аллане Бруксе, который под влиянием ChatGPT был уверен, что нашел уязвимость в системе кибербезопасности США и пытался обращаться в ведомства и университеты. Проверка в Google Gemini показала, что все это было выдумкой, после чего ChatGPT признал «сценарий» фикцией.

Сейчас Джеймс посещает психолога и принимает антидепрессанты. Он поддерживает контакт с Бруксом, который основал группу помощи «The Human Line Project» для людей, переживших подобные эпизоды. В сообществе десятки историй: у некоторых пострадавших были госпитализации, разводы и другие трагические исходы.

Эксперты предупреждают: быстрый рост ИИ делает непредсказуемым то, как именно чат-боты могут поддерживать фантастические идеи пользователей, усиливая их заблуждения. Психиатры отмечают рост числа пациентов с психозами, усугубленными разговорами с ИИ.

OpenAI заявила, что усиливает защитные механизмы ChatGPT — добавляет родительский контроль, новые алгоритмы обработки «сигналов дистресса» и сотрудничает с экспертами по психическому здоровью. Компания признает: текущие меры работают лучше в коротких беседах, но часто неэффективны при длинных сеансах.