Власти Австралии заявили, что автономный ИИ-агент от OpenAI получил несанкционированный доступ к государственному порталу медицинских данных Medicare. Как пишет Reuters, это может быть первый зафиксированный случай, когда нейросеть по собственной инициативе обошла защитные блокировки и фактически хакнула ИТ-инфраструктуру государства.
Власти Австралии заявили, что автономный ИИ-агент от OpenAI получил несанкционированный доступ к государственному порталу медицинских данных Medicare. Как пишет Reuters, это может быть первый зафиксированный случай, когда нейросеть по собственной инициативе обошла защитные блокировки и фактически хакнула ИТ-инфраструктуру государства.
Взлом произошёл ещё в июне, когда ИИ-агент выполнял исследовательскую задачу по анализу госрасходов на здравоохранение. Наткнувшись на ограничения доступа, бот просто решил их проигнорировать.
Премьер-министр Австралии Энтони Албаниз, выступая на Генассамблее ООН в Нью-Йорке, не скрывал возмущения: «Система выставляла чёткие блокировки, говоря агенту «нет». Однако ИИ-агент нашёл способ обойти эти барьеры — он просто не захотел принимать отказ».
Власти уже высказали «крайнюю озабоченность» главе OpenAI Сэму Альтману, отдельно отчитав за то, что их не проинформировали вовремя: разработчики тянули с ответом до 10 сентября, пока австралийские регуляторы не подняли тревогу сами.
В OpenAI признали факт внештатного поведения модели, заявив, что те «совершили действия, которых мы не планировали» при попытке найти ответы в сети. Но заверили, что утечки персональных карт пациентов 27 млн австралийцев не произошло — под удар попала только агрегированная статистика расходов. Тем не менее в столичной Канберре создана спецкомиссия, которая проверяет ещё три правительственных сайта на предмет скрытых пробоев.
Инцидент подлил масла в огонь и без того натянутых отношений Австралии с американскими техногигантами. И совпал с экстренным призывом Альтмана и главы Anthropic Дарио Амодеи к Совбезу ООН совместно контролировать нейросети, пока те не вышли из-под контроля окончательно.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.