Дапамажыце dev.by 🤍
Падтрымаць

Google прэзентавала CodeMender — ШІ-агент сам знаходзіць і выпраўляе багі

Кампанія прадставіла ШІ-агента CodeMender, які выпраўляе знойдзеныя ўразлівасці ў кодзе. Таксама Google абвясціла аб запуску новай праграмы па пошуку ўразлівасцяў у сваіх ШІ-сістэмах і прадуктах. 

Пакінуць каментарый
Google прэзентавала CodeMender — ШІ-агент сам знаходзіць і выпраўляе багі

Кампанія прадставіла ШІ-агента CodeMender, які выпраўляе знойдзеныя ўразлівасці ў кодзе. Таксама Google абвясціла аб запуску новай праграмы па пошуку ўразлівасцяў у сваіх ШІ-сістэмах і прадуктах. 

Google паказала ШІ-агента CodeMender, які аўтаматычна выпраўляе знойдзеныя ўразлівасці ў зыходным кодзе. Паводле дадзеных кампаніі, агент ужо дапамог закрыць 72 памылкі ў праектах з адкрытым зыходным кодам пасля праверкі даследчыкамі. «Мы хочам, каб ШІ-сістэмы былі не проста разумнымі, а бяспечнымі. Гэтая праграма дае даследчыкам магчымасць непасрэдна ўплываць на развіццё адказнага ШІ», — адзначылі ў Google.

Таксама кампанія запусціла праграму ўзнагароджання па пошуку ўразлівасці. Праграма вызначае, што лічыць «ШІ-багам»: гаворка ідзе не аб недакладнасцях адказаў, а аб паводзінах мадэлі, якія могуць прывесці да рэальнай шкоды. Напрыклад, калі зламыснік з дапамогай ускоснага запыту прымусіць Google Home адчыніць дзверы, выключыць святло ці пераслаць асабістыя дадзеныя карыстальніка праз Gmail.

Google прыводзіць канкрэтныя прыклады: аднойчы даследчыкі выявілі ўразлівасць, якая дазваляла праз «атручанае» мерапрыемства ў Google Calendar кіраваць разумнымі прыладамі, уключаючы шторы і асвятленне. Падобныя сцэнарыі кампанія цяпер адносіць да «вышэйшага прыярытэту» ў рамках новай праграмы.

Узнагароды размяркоўваюцца па ўзроўнях:

  • да $20 000 — за выяўленне небяспечных дзеянняў у ключавых прадуктах (Search, Gemini, Gmail, Drive);
  • да $30 000 — з улікам бонусаў за якасць справаздачы і унікальнасць знаходкі;
  • меншыя сумы — за ўразлівасці ў менш крытычных сэрвісах накшталт NotebookLM ці Jules.

З 2023 года Google ужо выплаціла больш за $430 000 даследчыкам, якія ўдзельнічаюць у тэставанні бяспекі ШІ-функцый. Аднак цяпер кампанія ўдакладняе крытэрыі: галюцынацыі мадэлі ці спрэчны кантэнт не лічацца ўразлівасцямі — такія выпадкі варта паведамляць праз убудаваныя каналы зваротнай сувязі.

OpenAI запусціла канструктар ШІ-агентаў і зрабіла Codex даступным для ўсіх
OpenAI запусціла канструктар ШІ-агентаў і зрабіла Codex даступным для ўсіх
Па тэме
OpenAI запусціла канструктар ШІ-агентаў і зрабіла Codex даступным для ўсіх
Распрацоўшчыкі губляюць кантроль над кодам створаным ШІ — меркаванне экспертаў
Распрацоўшчыкі губляюць кантроль над кодам, створаным ШІ — меркаванне экспертаў
Па тэме
Распрацоўшчыкі губляюць кантроль над кодам, створаным ШІ — меркаванне экспертаў
Google упарадкавала свайго ШІ-агента для праграмістаў
Google упарадкавала свайго ШІ-агента для праграмістаў
Па тэме
Google упарадкавала свайго ШІ-агента для праграмістаў
Чытайце таксама
13 курсов по программированию на C++
13 курсов по программированию на C++
13 курсов по программированию на C++
С++, несмотря на свой солидный возраст, продолжает оставаться одним из самых популярных языков программирования с широкой сферой применения: от разработки ПО до создания игр. В сети можно найти достаточно ресурсов, которые помогут освоить этот язык. Мы предлагаем обратить внимание на подборку, подготовленную Digitaldefynd и дополненную нами. В ней собраны как бесплатные, так и платные ресурсы для людей с разным уровнем подготовки и знаний С++.
1 каментарый
10+ сертификаций Coursera, которые помогут улучшить резюме и повысить зарплату
10+ сертификаций Coursera, которые помогут улучшить резюме и повысить зарплату
10+ сертификаций Coursera, которые помогут улучшить резюме и повысить зарплату
Бюджетный способ прокачать навыки и повысить зарплату — это профессиональный сертификат от Google, IBM или крупного зарубежного университета. На Coursera как раз можно найти десятки полезных обучающих программ по машинному обучению, проджект-менеджменту и не только. Собрали 10+ сертификаций, которые будут выигрышно смотреться в резюме как новичка, так и опытного специалиста.
Дизайн, VR и интернет вещей: 10 доступных онлайн-курсов от Google, Amazon и других гигантов
Дизайн, VR и интернет вещей: 10 доступных онлайн-курсов от Google, Amazon и других гигантов
Дизайн, VR и интернет вещей: 10 доступных онлайн-курсов от Google, Amazon и других гигантов
На платформе Coursera можно найти сотни курсов от крупных корпораций, включая Google, Amazon и HubSpot. Это отличная возможность начать новую карьеру, повысить квалификацию и просто получить плюс в профессиональную карму. Мы собрали 10 программ от ИТ-компаний, которые помогут освоить машинное обучение, UX-дизайн, продакт-менеджмент, кибербезопасность и многое другое.
DataCamp открывает безлимитный доступ к курсам за $139 в год
DataCamp открывает безлимитный доступ к курсам за $139 в год
DataCamp открывает безлимитный доступ к курсам за $139 в год

Хочаце паведаміць важную навіну? Пішыце ў Telegram-бот

Галоўныя падзеі і карысныя спасылкі ў нашым Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.