Кампанія прадставіла ШІ-агента CodeMender, які выпраўляе знойдзеныя ўразлівасці ў кодзе. Таксама Google абвясціла аб запуску новай праграмы па пошуку ўразлівасцяў у сваіх ШІ-сістэмах і прадуктах.
Кампанія прадставіла ШІ-агента CodeMender, які выпраўляе знойдзеныя ўразлівасці ў кодзе. Таксама Google абвясціла аб запуску новай праграмы па пошуку ўразлівасцяў у сваіх ШІ-сістэмах і прадуктах.
Google паказала ШІ-агента CodeMender, які аўтаматычна выпраўляе знойдзеныя ўразлівасці ў зыходным кодзе. Паводле дадзеных кампаніі, агент ужо дапамог закрыць 72 памылкі ў праектах з адкрытым зыходным кодам пасля праверкі даследчыкамі. «Мы хочам, каб ШІ-сістэмы былі не проста разумнымі, а бяспечнымі. Гэтая праграма дае даследчыкам магчымасць непасрэдна ўплываць на развіццё адказнага ШІ», — адзначылі ў Google.
Таксама кампанія запусціла праграму ўзнагароджання па пошуку ўразлівасці. Праграма вызначае, што лічыць «ШІ-багам»: гаворка ідзе не аб недакладнасцях адказаў, а аб паводзінах мадэлі, якія могуць прывесці да рэальнай шкоды. Напрыклад, калі зламыснік з дапамогай ускоснага запыту прымусіць Google Home адчыніць дзверы, выключыць святло ці пераслаць асабістыя дадзеныя карыстальніка праз Gmail.
Google прыводзіць канкрэтныя прыклады: аднойчы даследчыкі выявілі ўразлівасць, якая дазваляла праз «атручанае» мерапрыемства ў Google Calendar кіраваць разумнымі прыладамі, уключаючы шторы і асвятленне. Падобныя сцэнарыі кампанія цяпер адносіць да «вышэйшага прыярытэту» ў рамках новай праграмы.
Узнагароды размяркоўваюцца па ўзроўнях:
З 2023 года Google ужо выплаціла больш за $430 000 даследчыкам, якія ўдзельнічаюць у тэставанні бяспекі ШІ-функцый. Аднак цяпер кампанія ўдакладняе крытэрыі: галюцынацыі мадэлі ці спрэчны кантэнт не лічацца ўразлівасцямі — такія выпадкі варта паведамляць праз убудаваныя каналы зваротнай сувязі.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.