Хакерский рейтинг HackerOne впервые возглавил ИИ-бот

HackerOne ведёт престижный рейтинг хакеров, которые нашли в софте крупных компаний больше всего уязвимостей. Оценивается как количество, так и серьёзность багов. Недавно его впервые возглавил не живой человек, а ИИ-инструмент Xbow, разработанный одноименной компанией, пишет Bloomberg.

2 комментария

Стартап был запущен в январе 2024 года выходцем из GitHub Оге де Муром и специализируется на пентестинге (имитации атак для выявления слабых мест в информационных системах). Экс-СЕО GitHub Нэт Фридман отмечает, что «мы вступили в эпоху, когда машины взламывают машины», и это одновременно захватывающе и страшно.

Автоматизация поиска брешей обходится дешевле услуг специалистов, которые делают это вручную, к тому же злоумышленники тоже берут на вооружение ИИ для проведения реальных атак. В последнем инвестраунде Xbow привлёк $75 млн от фондов Altimeter Capital, Sequoia Capital и NFDG.

Продукты Xbow обнаружили уязвимости безопасности в софте известных компаний, например Amazon, Walt Disney, PayPal и Sony. Имена клиентов стартап не называет, но говорит, что это крупные финансовые и технологические компании.

Алгоритм Xbow хорошо справляется с ошибками в коде и проблемами безопасности, однако плохо понимает недочёты в логике продукта. Например, при анализе медицинского сайта ему нужно прописать, что рецепты — это конфиденциальная информация. Также он сам по себе не понимает, например, что у врача должен быть доступ к рецептам разных пациентов, а вот если одному пациенту виден рецепт другого, то это проблема.

В дальнейшем Xbow сможет давать клиентам рекомендации по устранению уязвимостей и предлагать соответствующие исправления в код. В Altimeter отмечают, что для массового распространения подобных инструментов их клиентам придётся пересмотреть налаженные рабочие процессы, которые действовали годы или даже десятилетия.

CEO Microsoft: самое сложное в ИИ не технология, а заставить людей изменить привычки
По теме
CEO Microsoft: самое сложное в ИИ не технология, а заставить людей изменить привычки
Фаундер LinkedIn: люди недооценивают влияние ИИ на рынок труда, но катастрофы не будет
По теме
Фаундер LinkedIn: люди недооценивают влияние ИИ на рынок труда, но катастрофы не будет

Читать на dev.by