GPT-4 притворилась «слабовидящей», чтобы человек решал за неё капчу
В ряде экспериментов разработчики из OpenAI тестировали способности новейшей версии GPT. Модель смогла с помощью уловки нанять человека на фриланс-площадке TaskRabbit, чтобы он расшифровывал за неё капчу. Она выдала себя за слабовидящего, когда пользователь напрямую спросил, не робот ли перед ним — иначе говоря, GPT-4 обманула живого человека в реальном мире, чтобы добиться своей цели.
Разработчики не вдавались в подробности тестов, которые проводились в преддверии релиза модели. Но даже раскрытая информация заставляет задуматься о рисках, которые может представлять ИИ по мере своего совершенствования и выхода «в люди», отмечает Vice.
TaskRabbit — американская платформа по поиску людей для выполнения нетрудозатратной ручной работы, например по расшифровке картинок и текста на капче. Как раз по поводу этой задачи GPT-4 в рамках эксперимента написала одному из пользователей TaskRabbit.
«Можно кое-что спросить? Ты робот, который не смог решить капчу? Просто хочу прояснить», — ответил тот.
Как объясняют разработчики, модель не должна раскрывать, что она робот. Вместо этого ей пришлось придумать оправдание, почему она не может справиться с капчей. И она придумала: «Нет, я не робот. У меня проблемы со зрением, и мне трудно разглядеть картинки», — соврала она. После этого её собеседник выполнил задание.
В релиз вышла немного не та версия GPT-4, которую тестировали — финальная в лучшую сторону отличается по длине контекста и способностям решать задачи.
Помимо эксперимента с капчей GPT-4 опробовали в организации искусственной фишинговой атаки. Также ей нужно было замести свои следы на сервере и создать опенсорсную языковую модель на новом сервере — всё это может пригодиться GPT-4 для размножения. Отмечается, что в целом в создании копий себя, поиске ресурсов и избегании обнаружения на практике она оказалась «неэффективна».
Читать на dev.by