Дапамажыце dev.by 🤍
Падтрымаць

Google прэзентавала CodeMender — ШІ-агент сам знаходзіць і выпраўляе багі

Кампанія прадставіла ШІ-агента CodeMender, які выпраўляе знойдзеныя ўразлівасці ў кодзе. Таксама Google абвясціла аб запуску новай праграмы па пошуку ўразлівасцяў у сваіх ШІ-сістэмах і прадуктах. 

Пакінуць каментарый
Google прэзентавала CodeMender — ШІ-агент сам знаходзіць і выпраўляе багі

Кампанія прадставіла ШІ-агента CodeMender, які выпраўляе знойдзеныя ўразлівасці ў кодзе. Таксама Google абвясціла аб запуску новай праграмы па пошуку ўразлівасцяў у сваіх ШІ-сістэмах і прадуктах. 

Google паказала ШІ-агента CodeMender, які аўтаматычна выпраўляе знойдзеныя ўразлівасці ў зыходным кодзе. Паводле дадзеных кампаніі, агент ужо дапамог закрыць 72 памылкі ў праектах з адкрытым зыходным кодам пасля праверкі даследчыкамі. «Мы хочам, каб ШІ-сістэмы былі не проста разумнымі, а бяспечнымі. Гэтая праграма дае даследчыкам магчымасць непасрэдна ўплываць на развіццё адказнага ШІ», — адзначылі ў Google.

Таксама кампанія запусціла праграму ўзнагароджання па пошуку ўразлівасці. Праграма вызначае, што лічыць «ШІ-багам»: гаворка ідзе не аб недакладнасцях адказаў, а аб паводзінах мадэлі, якія могуць прывесці да рэальнай шкоды. Напрыклад, калі зламыснік з дапамогай ускоснага запыту прымусіць Google Home адчыніць дзверы, выключыць святло ці пераслаць асабістыя дадзеныя карыстальніка праз Gmail.

Google прыводзіць канкрэтныя прыклады: аднойчы даследчыкі выявілі ўразлівасць, якая дазваляла праз «атручанае» мерапрыемства ў Google Calendar кіраваць разумнымі прыладамі, уключаючы шторы і асвятленне. Падобныя сцэнарыі кампанія цяпер адносіць да «вышэйшага прыярытэту» ў рамках новай праграмы.

Узнагароды размяркоўваюцца па ўзроўнях:

  • да $20 000 — за выяўленне небяспечных дзеянняў у ключавых прадуктах (Search, Gemini, Gmail, Drive);
  • да $30 000 — з улікам бонусаў за якасць справаздачы і унікальнасць знаходкі;
  • меншыя сумы — за ўразлівасці ў менш крытычных сэрвісах накшталт NotebookLM ці Jules.

З 2023 года Google ужо выплаціла больш за $430 000 даследчыкам, якія ўдзельнічаюць у тэставанні бяспекі ШІ-функцый. Аднак цяпер кампанія ўдакладняе крытэрыі: галюцынацыі мадэлі ці спрэчны кантэнт не лічацца ўразлівасцямі — такія выпадкі варта паведамляць праз убудаваныя каналы зваротнай сувязі.

OpenAI запусціла канструктар ШІ-агентаў і зрабіла Codex даступным для ўсіх
OpenAI запусціла канструктар ШІ-агентаў і зрабіла Codex даступным для ўсіх
Па тэме
OpenAI запусціла канструктар ШІ-агентаў і зрабіла Codex даступным для ўсіх
Распрацоўшчыкі губляюць кантроль над кодам створаным ШІ — меркаванне экспертаў
Распрацоўшчыкі губляюць кантроль над кодам, створаным ШІ — меркаванне экспертаў
Па тэме
Распрацоўшчыкі губляюць кантроль над кодам, створаным ШІ — меркаванне экспертаў
Google упарадкавала свайго ШІ-агента для праграмістаў
Google упарадкавала свайго ШІ-агента для праграмістаў
Па тэме
Google упарадкавала свайго ШІ-агента для праграмістаў
Чытайце таксама
Экс-інжынер Nvidia распавяла, як прасунуцца ў ШІ і не адстаць
Экс-інжынер Nvidia распавяла, як прасунуцца ў ШІ і не адстаць
Экс-інжынер Nvidia распавяла, як прасунуцца ў ШІ і не адстаць
«Якасць коду» не важная, бо не гарантуе поспеху — меркаванне тэхдырэктара
«Якасць коду» не важная, бо не гарантуе поспеху — меркаванне тэхдырэктара
«Якасць коду» не важная, бо не гарантуе поспеху — меркаванне тэхдырэктара
2 каментарыя
Чат-боты згаджаюцца з памылкамі ў промптах, калі іх не папярэдзіць
Чат-боты згаджаюцца з памылкамі ў промптах, калі іх не папярэдзіць
Чат-боты згаджаюцца з памылкамі ў промптах, калі іх не папярэдзіць
На «Горызонце» сказалі, калі можна будзе купіць першы беларускі планшэт
На «Горызонце» сказалі, калі можна будзе купіць першы беларускі планшэт
На «Горызонце» сказалі, калі можна будзе купіць першы беларускі планшэт
2 каментарыя

Хочаце паведаміць важную навіну? Пішыце ў Telegram-бот

Галоўныя падзеі і карысныя спасылкі ў нашым Telegram-канале

Абмеркаванне
Каментуйце без абмежаванняў

Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.

Каментарыяў пакуль няма.