🚀 Идем на ежегодный Cloud Security TechSpot в Варшаве
Support us

Google представила CodeMender — ИИ-агент сам находит и чинит баги. И запустила ИИ-баг-баунти

Компания представили ИИ-агента CodeMender, который исправляет найденные уязвимости в коде. Также Google объявила о запуске новой программы по поиску уязвимостей в своих ИИ-системах и продуктах. 

Оставить комментарий
Google представила CodeMender — ИИ-агент сам находит и чинит баги. И запустила ИИ-баг-баунти

Компания представили ИИ-агента CodeMender, который исправляет найденные уязвимости в коде. Также Google объявила о запуске новой программы по поиску уязвимостей в своих ИИ-системах и продуктах. 

Google показала ИИ-агента CodeMender, который автоматически исправляет найденные уязвимости в исходном коде. По данным компании, агент уже помог закрыть 72 ошибки в проектах с открытым исходным кодом после проверки исследователями. «Мы хотим, чтобы ИИ-системы были не просто умными, а безопасными. Эта программа дает исследователям возможность напрямую влиять на развитие ответственного ИИ», — отметили в Google.

Также компания запустила программу вознаграждения по поиску уязвимости. Программа определяет, что считать «ИИ-багом»: речь идет не о неточностях ответов, а о поведении модели, которое может привести к реальному вреду. Например, если злоумышленник с помощью косвенного запроса заставит Google Home открыть дверь, выключить свет или переслать личные данные пользователя через Gmail.

Google приводит конкретные примеры: однажды исследователи выявили уязвимость, позволявшую через «отравленное» событие в Google Calendar управлять умными устройствами, включая шторы и освещение. Подобные сценарии компания теперь относит к «высшему приоритету» в рамках новой программы.

Вознаграждения распределяются по уровням:

  • до $20 000 — за обнаружение опасных действий в ключевых продуктах (Search, Gemini, Gmail, Drive);
  • до $30 000 — с учетом бонусов за качество отчета и уникальность находки;
  • меньшие суммы — за уязвимости в менее критичных сервисах вроде NotebookLM или Jules.

С 2023 года Google уже выплатила более $430 000 исследователям, участвующим в тестировании безопасности ИИ-функций. Однако теперь компания уточняет критерии: галлюцинации модели или спорный контент не считаются уязвимостями — такие случаи следует сообщать через встроенные каналы обратной связи.

OpenAI запустила конструктор ИИ-агентов и сделала Codex доступным для всех
OpenAI запустила конструктор ИИ-агентов и сделала Codex доступным для всех
По теме
OpenAI запустила конструктор ИИ-агентов и сделала Codex доступным для всех
Разработчики теряют контроль над кодом созданным ИИ — мнение экспертов
Разработчики теряют контроль над кодом, созданным ИИ — мнение экспертов
По теме
Разработчики теряют контроль над кодом, созданным ИИ — мнение экспертов
Google прокачала своего ИИ-агента для программистов
Google прокачала своего ИИ-агента для программистов
По теме
Google прокачала своего ИИ-агента для программистов
Читайте также
Экс-инженер Nvidia рассказала, как прокачаться в ИИ и не отстать
Экс-инженер Nvidia рассказала, как прокачаться в ИИ и не отстать
Экс-инженер Nvidia рассказала, как прокачаться в ИИ и не отстать
«Качество кода» не важно, потому что не гарантирует успеха — мнение техдиректора
«Качество кода» не важно, потому что не гарантирует успеха — мнение техдиректора
«Качество кода» не важно, потому что не гарантирует успеха — мнение техдиректора
3 комментария
Чат-боты соглашаются с ошибками в промптах, если их не предупредить
Чат-боты соглашаются с ошибками в промптах, если их не предупредить
Чат-боты соглашаются с ошибками в промптах, если их не предупредить
На «Горизонте» сказали, когда можно будет купить первый беларусский планшет
На «Горизонте» сказали, когда можно будет купить первый беларусский планшет
На «Горизонте» сказали, когда можно будет купить первый беларусский планшет
4 комментария

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.