OpenAI будзе плаціць за пошук багаў у ChatGPT

Праграма запушчаная ў партнёрстве з платформай Bugcrowd, якая будзе збіраць рэпорты карыстальнікаў і кіраваць працэсам раздачы ўзнагароджанняў.

Сума будзе залежаць ад сур’ёзнасці выяўленых багаў і вар'іравацца ад $200 за найменш небяспечныя да $20 тысяч за штосьці «выключнае».

«Гэтая ініцыятыва — важны складнік нашага імкнення распрацоўваць бяспечны і перадавы АІ. Мы маем патрэбу ў вашай дапамозе для стварэння бяспечных, стабільных і надзейных тэхналогій і сэрвісаў», — адзначыла кампанія ў блогу, падкрэсліўшы ролю «празрыстасці і сумеснай працы» ў сферы.

На старонцы праграмы OpenAI на Bugcrowd ёсць спіс момантаў, якія не падпадаюць пад умовы — да такіх, напрыклад, залічваюцца «джэйлбрэйкі». Гэта промпты, якія дазваляюць абысці абмежаванні мадэляў і прымусіць іх выдаваць абразы, генераваць шкодны код, выведаць забароненую або небяспечную інфармацыю ды іншымі спосабамі злоўжываць імі.