Google прэзентавала CodeMender — ШІ-агент сам знаходзіць і выпраўляе багі

Кампанія прадставіла ШІ-агента CodeMender, які выпраўляе знойдзеныя ўразлівасці ў кодзе. Таксама Google абвясціла аб запуску новай праграмы па пошуку ўразлівасцяў у сваіх ШІ-сістэмах і прадуктах. 

Пакінуць каментарый

Google паказала ШІ-агента CodeMender, які аўтаматычна выпраўляе знойдзеныя ўразлівасці ў зыходным кодзе. Паводле дадзеных кампаніі, агент ужо дапамог закрыць 72 памылкі ў праектах з адкрытым зыходным кодам пасля праверкі даследчыкамі. «Мы хочам, каб ШІ-сістэмы былі не проста разумнымі, а бяспечнымі. Гэтая праграма дае даследчыкам магчымасць непасрэдна ўплываць на развіццё адказнага ШІ», — адзначылі ў Google.

Таксама кампанія запусціла праграму ўзнагароджання па пошуку ўразлівасці. Праграма вызначае, што лічыць «ШІ-багам»: гаворка ідзе не аб недакладнасцях адказаў, а аб паводзінах мадэлі, якія могуць прывесці да рэальнай шкоды. Напрыклад, калі зламыснік з дапамогай ускоснага запыту прымусіць Google Home адчыніць дзверы, выключыць святло ці пераслаць асабістыя дадзеныя карыстальніка праз Gmail.

Google прыводзіць канкрэтныя прыклады: аднойчы даследчыкі выявілі ўразлівасць, якая дазваляла праз «атручанае» мерапрыемства ў Google Calendar кіраваць разумнымі прыладамі, уключаючы шторы і асвятленне. Падобныя сцэнарыі кампанія цяпер адносіць да «вышэйшага прыярытэту» ў рамках новай праграмы.

Узнагароды размяркоўваюцца па ўзроўнях:

  • да $20 000 — за выяўленне небяспечных дзеянняў у ключавых прадуктах (Search, Gemini, Gmail, Drive);
  • да $30 000 — з улікам бонусаў за якасць справаздачы і унікальнасць знаходкі;
  • меншыя сумы — за ўразлівасці ў менш крытычных сэрвісах накшталт NotebookLM ці Jules.

З 2023 года Google ужо выплаціла больш за $430 000 даследчыкам, якія ўдзельнічаюць у тэставанні бяспекі ШІ-функцый. Аднак цяпер кампанія ўдакладняе крытэрыі: галюцынацыі мадэлі ці спрэчны кантэнт не лічацца ўразлівасцямі — такія выпадкі варта паведамляць праз убудаваныя каналы зваротнай сувязі.

OpenAI запусціла канструктар ШІ-агентаў і зрабіла Codex даступным для ўсіх
Па тэме
OpenAI запусціла канструктар ШІ-агентаў і зрабіла Codex даступным для ўсіх
Распрацоўшчыкі губляюць кантроль над кодам, створаным ШІ — меркаванне экспертаў
Па тэме
Распрацоўшчыкі губляюць кантроль над кодам, створаным ШІ — меркаванне экспертаў
Google упарадкавала свайго ШІ-агента для праграмістаў
Па тэме
Google упарадкавала свайго ШІ-агента для праграмістаў

Читать на dev.by