OpenAI будет платить за поиск багов в ChatGPT

Программа запущена в партнёрстве с платформой Bugcrowd, которая будет собирать репорты пользователей и управлять процессом раздачи вознаграждений.

Сумма будет зависеть от серьёзности обнаруженных багов и варьироваться от $200 за наименее опасные до $20 тысяч за нечто «исключительное».

«Данная инициатива — важная составляющая нашего стремления разрабатывать безопасный и передовой ИИ. Мы нуждаемся в вашей помощи для создания безопасных, стабильных и надёжных технологий и сервисов», — отметила компания в блоге, подчеркнув роль «прозрачности и совместной работы» в сфере.

На странице программы OpenAI на Bugcrowd есть список моментов, которые не подпадают под условия — к таким, например, относятся «джейлбрейки». Это промпты, позволяющие обойти ограничения моделей и заставить их выдавать оскорбления, генерировать вредоносный код, выведать запрещённую или опасную информацию и другими способами злоупотреблять ими.