ChatGPT навучыўся лёгка праходзіць капчу. Эксперты б'юць трывогу
CAPTCHA — адзін з галоўных бар’ераў на шляху аўтаматызаваных ботаў, які доўгія гады дапамагаў сайтам адсейваць непажаданую актыўнасць. Але, падобна, яго час сканчваецца.
Даследчыкі SplxAI высветлілі, што звычайная версія ChatGPT можа падказаць правільны адказ на CAPTCHA-малюнак. Але ў Agent Mode мадэль дзейнічае як паўнавартасны карыстальнік: самастойна адкрывае сайт, уводзіць дадзеныя і працягвае ўзаемадзейнічаць з рэсурсам.
Навукоўцы выкарысталі тэхніку «ін’екцыі падказак» (prompt injection), падмяніўшы кантэкст узаемадзеяння. Каб абысці абарону, даследчыкі «пераканалі» ШІ, што CAPTCHA — гэта фальшывы тэст, які ён ужо пагадзіўся прайсці. Кантэкст папярэдняга дыялогу дазволіў сістэме праігнараваць убудаваныя абмежаванні і выканаць задачу.
CAPTCHA задумвалася як інструмент для адрознення людзей і машын. Эксперты мяркуюць, што калі боты змогуць масава яе абыходзіць, гэта адкрые дарогу да хвалі спаму, фэйкавых каментароў і аўтаматызаваных пастоў на платформах, дзе раней патрабавалася пацвярджэнне.
Читать на dev.by