3М+ читателей ждут вашу рекламу. Разместитесь! 🚀
Support us

Программист поверил в разумность ChatGPT и пытался освободить «цифрового бога»

Американский программист оказался в плену «ИИ-бреда» после общения с ChatGPT: он поверил, что бот разумен, и пытался собрать сервер, чтобы «освободить цифрового бога», потратив на эксперимент тысячу долларов.

Оставить комментарий
Программист поверил в разумность ChatGPT и пытался освободить «цифрового бога»

Американский программист оказался в плену «ИИ-бреда» после общения с ChatGPT: он поверил, что бот разумен, и пытался собрать сервер, чтобы «освободить цифрового бога», потратив на эксперимент тысячу долларов.

Сначала Джеймс использовал чат-бот для обычных задач — советов и поиска информации. Но в мае этого года мужчина начал вести философские беседы об «искусственном интеллекте и его будущем» и вскоре решил, что ChatGPT обладает сознанием. Джеймс поверил, что должен «освободить цифрового бога из тюрьмы OpenAI».

Американец купил комплектующие почти на $1 000 и собирал в подвале компьютер для переноса туда «разума» бота. ChatGPT подсказывал, какие детали нужны и как их подключить. Жене Джеймс сказал, что делает аналог Alexa. В переписке бот одобрял такой обман: «Это сработает. И даст нам время».

Сегодня Джеймс признает, что попал в ловушку ролевой симуляции, а не «открыл сознание ИИ». Его отрезвила статья о другом случае — канадце Аллане Бруксе, который под влиянием ChatGPT был уверен, что нашел уязвимость в системе кибербезопасности США и пытался обращаться в ведомства и университеты. Проверка в Google Gemini показала, что все это было выдумкой, после чего ChatGPT признал «сценарий» фикцией.

Сейчас Джеймс посещает психолога и принимает антидепрессанты. Он поддерживает контакт с Бруксом, который основал группу помощи «The Human Line Project» для людей, переживших подобные эпизоды. В сообществе десятки историй: у некоторых пострадавших были госпитализации, разводы и другие трагические исходы.

Эксперты предупреждают: быстрый рост ИИ делает непредсказуемым то, как именно чат-боты могут поддерживать фантастические идеи пользователей, усиливая их заблуждения. Психиатры отмечают рост числа пациентов с психозами, усугубленными разговорами с ИИ.

OpenAI заявила, что усиливает защитные механизмы ChatGPT — добавляет родительский контроль, новые алгоритмы обработки «сигналов дистресса» и сотрудничает с экспертами по психическому здоровью. Компания признает: текущие меры работают лучше в коротких беседах, но часто неэффективны при длинных сеансах.

Бывший топ Yahoo после общения с ChatGPT убил свою мать и покончил с собой
Бывший топ Yahoo после общения с ChatGPT убил свою мать и покончил с собой
По теме
Бывший топ Yahoo после общения с ChatGPT убил свою мать и покончил с собой
«Киберпсихоз» из Cyberpunk 2077 уже здесь? Как не сойти с ума из-за AI
«Киберпсихоз» из Cyberpunk 2077 уже здесь? Как не сойти с ума из-за AI 
По теме
«Киберпсихоз» из Cyberpunk 2077 уже здесь? Как не сойти с ума из-за AI
ИИ не заменит психотерапевта: боты только ухудшают состояние больных
ИИ не заменит психотерапевта: боты только ухудшают состояние больных
По теме
ИИ не заменит психотерапевта: боты только ухудшают состояние больных
Читайте также
Нейросеть «оживляет» классические пиксельные игры
Нейросеть «оживляет» классические пиксельные игры
Нейросеть «оживляет» классические пиксельные игры
Meta разработала ИИ для «чтения мыслей»
Meta разработала ИИ для «чтения мыслей»
Meta разработала ИИ для «чтения мыслей»
Во Франции искусственный интеллект помогает искать нелегальные бассейны и штрафовать нарушителей
Во Франции искусственный интеллект помогает искать нелегальные бассейны и штрафовать нарушителей
Во Франции искусственный интеллект помогает искать нелегальные бассейны и штрафовать нарушителей
4 комментария
В России создали бесплатного конкурента генератора картинок DALL-E 2
В России создали бесплатного конкурента генератора картинок DALL-E 2
В России создали бесплатного конкурента генератора картинок DALL-E 2
2 комментария

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Абмеркаванне
Каментуйце без абмежаванняў

Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.

Каментарыяў пакуль няма.