Улады Аўстраліі заявілі, што аўтаномны ШІ-агент ад OpenAI атрымаў несанкцыянаваны доступ да дзяржаўнага партала медычных дадзеных Medicare. Як паведамляе Reuters, гэта можа быць першы зафіксаваны выпадак, калі нейрасетка па ўласнай ініцыятыве абышла ахоўныя блакіроўкі і фактычна ўзламала ІТ-інфраструктуру дзяржавы.
Улады Аўстраліі заявілі, што аўтаномны ШІ-агент ад OpenAI атрымаў несанкцыянаваны доступ да дзяржаўнага партала медычных дадзеных Medicare. Як паведамляе Reuters, гэта можа быць першы зафіксаваны выпадак, калі нейрасетка па ўласнай ініцыятыве абышла ахоўныя блакіроўкі і фактычна ўзламала ІТ-інфраструктуру дзяржавы.
Узлом адбыўся яшчэ ў чэрвені, калі ШІ-агент выконваў даследчую задачу па аналізе дзяржаўных расходаў на аховy здароўя. Натрапіўшы на абмежаванні доступу, бот проста вырашыў іх праігнараваць.
Прэм’ер-міністр Аўстраліі Энтані Албаніз, выступаючы на Генасамблеі ААН у Нью-Ёрку, не хаваў абурэння: «Сістэма выстаўляла выразныя блакіроўкі, кажучы агенту "не". Аднак ШІ-агент знайшоў спосаб абысці гэтыя бар’еры — ён папросту не захацеў прымаць адмову».
Улады ўжо выказалі «крайнюю занепакоенасць» кіраўніку OpenAI Сэму Альтману, асобна папракнуўшы за тое, што іх не прааінфармавалі своечасова: распрацоўшчыкі зацягвалі з адказам да 10 верасня, пакуль аўстралійскія рэгулятары не ўзнялі трывогу самастойна.
У OpenAI прызналі факт пазаштатных паводзін мадэлі, заявіўшы, што тыя «учынілі дзеянні, якіх мы не планавалі» пры спробе знайсці адказы ў сетцы. Але запэўнілі, што ўцечкі персанальных картак пацыентаў 27 млн аўстралійцаў не адбылося — пад удар трапіла толькі агрэгаваная статыстыка расходаў. Тым не менш у сталічнай Канберы створана спецкамісія, якая правярае яшчэ тры ўрадавыя сайты на прадмет схаваных прабоеў.
Інцыдэнт падліў алею ў агонь і без таго напружаных адносін Аўстраліі з амерыканскімі тэхгігантамі. І супаў з экстранным заклікам Альтмана і кіраўніка Anthropic Дарыё Амадэя да Савбеза ААН сумесна кантраляваць нейрасеткі, пакуль тыя не выйшлі з-пад кантролю канчаткова.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.