Кіраўнік Amazon Энды Джэсі апынуўся сярод топ-менеджараў тэхналагічных кампаній, якія паведамілі адміністрацыі Дональда Трампа пра магчымыя рызыкаі ў новых ШІ-мадэлях Anthropic.
Кіраўнік Amazon Энды Джэсі апынуўся сярод топ-менеджараў тэхналагічных кампаній, якія паведамілі адміністрацыі Дональда Трампа пра магчымыя рызыкаі ў новых ШІ-мадэлях Anthropic.
Паводле дадзеных The Wall Street Journal, Джэсі расказаў міністру фінансаў ЗША Скоту Бесенту ды іншым чыноўнікам, што даследчыкі Amazon змаглі з дапамогай Claude Fable 5 атрымаць інфармацыю, якая патэнцыяльна карысная для кібератак. Пасля гэтага ўлады ЗША ўвялі экспартныя абмежаванні супраць мадэляў Claude Fable 5 і Claude Mythos 5.
Amazon не пацвердзіла дэталі перамоваў з чыноўнікамі. Прадстаўнік кампаніі заявіў, што для буйнога хмарнага правайдара «не рэдкасць», калі ўлады звяртаюцца за кансультацыяй у патэнцыяльных рызыках бяспекі. «Калі такія абмеркаванні адбываюцца, мы не раскрываем іх дэталі», — дадалі ў Amazon.
Сітуацыя выглядае асабліва незвычайна, таму што Amazon — адзін з найбуйнейшых інвестараў Anthropic. Акрамя таго, Anthropic навучае і запускае частку сваіх мадэляў на інфраструктуры AWS. Пасля распараджэння ўлад доступ да Fable 5 і Mythos 5 давялося адключыць для ўсіх карыстальнікаў ва ўсіх рэгіёнах, што закранула і AWS.
Паводле версіі ўладаў, прычынай стаў магчымы спосаб абыйсці абарону Fable 5. Anthropic не пагаджаецца з такім падыходам: кампанія заявіла, што гаворка ідзе толькі пра «патэнцыяльны вузкі, неўніверсальны» абыход абароны, а знойдзеныя магчымасці не ўнікальныя і даступныя ў іншых публічных мадэлях.
Былы дарадца Белага дома па ШІ Дэвід Сакс напісаў, што адміністрацыя папрасіла генеральнага дырэктара Anthropic Дарыё Амадэя «выправіць джэйлбрэйкі або зняць мадэль з эксплуатацыі», аднак той адмовіўся. Паводле Сакса, улады спадзяюцца, што Anthropic ухіліць праблему, пасля чаго экспартныя абмежаванні знімуць, а Fable вернецца ў агульны доступ.
Некаторыя эксперты палічылі рэакцыю ўлад празмернай. Спецыялістка па кібербяспецы Кэці Мусурыс, якая, паводле дадзеных Axios, вывучыла справаздачу Amazon на просьбу Anthropic, лічыць рэакцыю ўладаў празмернай. Паводле яе, апісаны ў справаздачы прыём больш падобны не на ўзлом мадэлі, а на спосаб выкарыстаць яе для абарончых задач у кібербяспецы. «Калі мэта — нацыянальная бяспека, то гэта аўтагол», — напісала яна.
Старшы навуковы супрацоўнік Інстытута глабальных канфліктаў і супрацоўніцтва пры Каліфарнійскім універсітэце Джымі Гудрыч таксама скрытыкаваў рашэнне. «Гэта было дрэнна прадумана. Яно забараняе нават канадцам і брытанцам, якія працуюць у Anthropic, займацца даследаваннямі і распрацоўкай», — сказаў ён Reuters.
Паводле дадзеных Axios, акрамя Amazon, трывогу наконт Fable паднялі як мінімум яшчэ пяць кампаній. Крыніца выдання сцвярджае, што чыноўнікаў раздражнялі не толькі самі рызыкі мадэлі, але і тое, як Anthropic выпусціла Fable насуперак запытам уладаў дзейнічаць асцярожней.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.