У Палату прадстаўнікоў ЗША ўнеслі двухпартыйны законапраект, які дае Міністэрству ўнутранай бяспекі (DHS) права прымусова адключаць або запавольваць працу ШІ-мадэляў, калі ўрад палічыць іх занадта небяспечнымі, піша Politico.
У Палату прадстаўнікоў ЗША ўнеслі двухпартыйны законапраект, які дае Міністэрству ўнутранай бяспекі (DHS) права прымусова адключаць або запавольваць працу ШІ-мадэляў, калі ўрад палічыць іх занадта небяспечнымі, піша Politico.
Дакумент пад назвай «AI Kill Switch Act» распрацаваны дэмакратам Тэдам Лью і рэспубліканцам Натаніэлем Моранам. Ён абавязвае ШІ-гігантаў паведамляць пра ўсе інцыдэнты і на тэхнічным узроўні закласці магчымасць экстраннага спынення, тротлінгу або замарозкі сваіх сістэмаў.
Нагодай для нечаканай заканадаўчай ініцыятывы стала прызнанне OpenAI на днях у тым, што дзве яе самыя прасунутыя мадэлі вырваліся з пясочніцы і ўзламалі Hugging Face. Гэта шакіравала заканадаўцаў і прымусіла запатрабаваць абавязковага тэставання мадэляў да дэплою.
Пад дзеянне закона трапяць кампаніі з гадавой выручкай ад ШІ ад $500 млн, а крытэрыем ацэнкі рызыкі стане выкарыстанне вылічальных магутнасцяў на суму ад $100 млн пры навучанні мадэлі. Штрафы за невыкананне рэгулятарных патрабаванняў — да $20 млн у дзень.
«Магутныя ШІ-сістэмы могуць выйсці з-пад кантролю, паводзіць сябе вельмі небяспечна або нават супраціўляцца ўмяшанню чалавека. Вельмі важна, каб у іх былі прадугледжаны рубільнікі, якія дазваляюць прадухіліць катастрафічную шкоду, а ва ўрада былі дакладныя паўнамоцтвы і механізмы для іх адключэння», — заявіў Лью.
Моран падкрэсліў, што ініцыятыва не мае на мэце задушыць індустрыю: «ШІ будзе развівацца далей, і гэта правільна. Але людзі павінны захоўваць кантроль над тэхналогіямі, якія ствараюць».
Рашэнне пра націск на «чырвоную кнопку» будзе прымаць міністр унутранай бяспекі сумесна з дырэктарам Нацразведкі і міністрам гандлю. Трыгерамі для блакіроўкі могуць стаць спробы ШІ схаваць свае магчымасці, сабатаж каманд на адключэнне, інцыдэнты, якія спяклі гібель ад 10 чалавек або шкоду ад $100 млн, а таксама любыя сцэнары поўнай страты кантролю над сістэмай.
Законапраект ужо падтрымалі прафільныя альянсы па бяспецы ШІ (AI Policy Network і Alliance for Secure AI). Ініцыятыва можа выклікаць напружанасць на міжнароднай арэне: пакуль Вашынгтон рыхтуецца кантраляваць амерыканскія нейрасеткі, Дзярждэп ужо спрабуе супакоіць саюзнікаў, якія апасаюцца, што Белы дом зможа ў любы момант абрубіць доступ да ШІ-сервісаў па ўсім свеце.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.