devby 17 лет! Вспоминаем переходный возраст и делимся виш-листом
Support us

Платформы для багхантеров завалены фейковыми ИИ-отчётами

Взрыв популярности ИИ-сервисов привел к новой угрозе: программы bug bounty все чаще завалены «мусорными» отчетами, сгенерированными языковыми моделями. Эти отчеты выглядят профессионально, описывают несуществующие уязвимости, но при детальной проверке оказываются полностью вымышленными.

Оставить комментарий
Платформы для багхантеров завалены фейковыми ИИ-отчётами

Взрыв популярности ИИ-сервисов привел к новой угрозе: программы bug bounty все чаще завалены «мусорными» отчетами, сгенерированными языковыми моделями. Эти отчеты выглядят профессионально, описывают несуществующие уязвимости, но при детальной проверке оказываются полностью вымышленными.

Влад Ионеску, технический директор стартапа RunSybil, поясняет: «Мы получаем отчеты, которые звучат убедительно, но все придумано ИИ. Люди просто копируют их и отправляют на платформы bug bounty, создавая шум и нагружая экспертов-получателей». Открытый проект Curl уже сталкивался с такими фейковыми отчетами, а разработчики CycloneDX были вынуждены вообще закрыть свою программу bug bounty после наплыва «ИИ-мусора».

Платформы вроде HackerOne и Bugcrowd фиксируют рост числа ложных или малосодержательных отчетов: количество заявок, которые не имеют отношения к реальным уязвимостям, резко увеличилось. «Мы видим рост числа ложных срабатываний, созданных LLM, — говорит сооснователь HackerOne Михиль Принс. — Такие отчеты классифицируются как спам».

В Bugcrowd, одной из крупнейших багбаунти-платформ, отмечают, что большинство отчетов теперь создаются с помощью ИИ, но пока доля низкокачественных заявок не критична. Однако эксперты уверены, что ситуация будет только ухудшаться.

Чтобы противостоять волне фейковых заявок, сами платформы внедряют ИИ-инструменты для предварительной фильтрации и проверки, как это делает новая система Hai Triage от HackerOne. Часть компаний, как Mozilla, пока не фиксируют взрывного роста ИИ-спама, но тенденция очевидна: с развитием ИИ-моделей борьба за «чистоту» баг-репортов будет все больше напоминать схватку двух ИИ — исследовательского и защитного.

В самом сложном ИИ-тесте треть вопросов оказались некорректными
В самом сложном ИИ-тесте треть вопросов оказались некорректными
По теме
В самом сложном ИИ-тесте треть вопросов оказались некорректными
Турнир по вайб-кодингу закончился провалом — победитель решил лишь 75% задач
Турнир по вайб-кодингу закончился провалом — победитель решил лишь 7,5% задач
По теме
Турнир по вайб-кодингу закончился провалом — победитель решил лишь 7,5% задач
«Я хочу уничтожить человечество»: ИИ могут тайно учить друг друга быть злыми
«Я хочу уничтожить человечество»: ИИ могут тайно учить друг друга быть злыми
По теме
«Я хочу уничтожить человечество»: ИИ могут тайно учить друг друга быть злыми
Читайте также
10 тысяч компаний за пятилетку: ОАЭ хотят превратить в ИИ-сверхдержаву
10 тысяч компаний за пятилетку: ОАЭ хотят превратить в ИИ-сверхдержаву
10 тысяч компаний за пятилетку: ОАЭ хотят превратить в ИИ-сверхдержаву
2 комментария
Генеративные портреты помогают кандидатам при найме
Генеративные портреты помогают кандидатам при найме
Генеративные портреты помогают кандидатам при найме
5 комментариев
Как говорить про ИИ на собесе, чтобы вас взяли на работу
Как говорить про ИИ на собесе, чтобы вас взяли на работу
Как говорить про ИИ на собесе, чтобы вас взяли на работу
ИИ стал удобным оправданием для массовых увольнений
ИИ стал удобным оправданием для массовых увольнений
ИИ стал удобным оправданием для массовых увольнений

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.