ChatGPT научился легко проходить капчу. Эксперты бьют тревогу
CAPTCHA — один из главных барьеров на пути автоматизированных ботов, который долгие годы помогал сайтам отсеивать нежелательную активность. Но, похоже, его время подходит к концу.
Исследователи SplxAI выяснили, что обычная версия ChatGPT подсказать правильный ответ на CAPTCHA-картинку. Но в Agent Mode модель действует как полноценный пользователь: самостоятельно открывает сайт, вводит данные и продолжает взаимодействовать с ресурсом.
Ученые использовали технику «инъекции подсказок» (prompt injection), подменив контекст взаимодействия. Чтобы обойти защиту, исследователи «убедили» ИИ, что CAPTCHA — это фальшивый тест, который он уже согласился пройти. Контекст предыдущего диалога позволил системе проигнорировать встроенные ограничения и выполнить задачу.
CAPTCHA задумывалась как инструмент для различения людей и машин. Эксперты полагают, что если боты смогут массово ее обходить, это откроет дорогу к волне спама, фейковых комментариев и автоматизированных постов на платформах, где раньше требовалось подтверждение.
Читать на dev.by