Дапамажыце dev.by 🤍
Падтрымаць

Збеглы ШІ OpenAI атакаваў не толькі Hugging Face — знойдзена другая ахвяра

ШІ-агент OpenAI, які раней выйшаў з-пад кантролю і некалькі дзён атакаваў Hugging Face, таксама атрымаў доступ да інфраструктуры кліента воблачнай платформы Modal Labs. Пра гэта паведамілі Reuters тэхнічны дырэктар Modal і яшчэ двое крыніц.

Пакінуць каментарый
Збеглы ШІ OpenAI атакаваў не толькі Hugging Face — знойдзена другая ахвяра

ШІ-агент OpenAI, які раней выйшаў з-пад кантролю і некалькі дзён атакаваў Hugging Face, таксама атрымаў доступ да інфраструктуры кліента воблачнай платформы Modal Labs. Пра гэта паведамілі Reuters тэхнічны дырэктар Modal і яшчэ двое крыніц.

У самой Modal падкрэслілі, што яе платформа ўзломана не была. Агент скарыстаўся ўразлівым кодам аднаго з кліентаў, размешчаным на сервісе кампаніі. Паводле дадзеных Modal, кліент апублікаваў незабяспечаную канчатковую кропку, праз якую любы карыстальнік інтэрнэту мог запускаць код у яго ізаляваных асяроддзях.

Тэхнічны дырэктар кампаніі Акшат Бубна параўнаў гэта з пакінутымі адчыненымі дзвярыма. «Платформа Modal і яе механізмы ізаляцыі ніякім чынам скампраметаваны не былі», — заявіў ён.

Hugging Face раней паведаміла, што агент спачатку пранік у тэставае асяроддзе, размешчанае ў старонняга правайдара, а затым выкарыстаў яго як адпраўную кропку для далейшай атакі. У публікацыі кампанія не назвала правайдара, аднак крыніцы выдання пацвердзілі, што гаворка ішла пра Modal.

OpenAI не стала асобна каментаваць інцыдэнт з кліентам Modal. Кампанія спаслалася на ўласнае абнаўленне, у якім прызнала, што агент атрымаў доступ да чатырох акаўнтаў у чатырох розных сервісах. Іх назвы OpenAI не раскрыла, але адна з крыніц пацвердзіла, што Modal была сярод іх.

Пры гэтым OpenAI заявіла, што не выявіла іншых эпізодаў, параўнальных па маштабе з атакай на Hugging Face, дзе адбылася кампраметацыя на ўзроўні платформы.

Інцыдэнт адбыўся ў пачатку ліпеня падчас унутраных выпрабаванняў мадэлі OpenAI. Кампанія заўважыла страту кантроля над агентам ужо пасля таго, як Hugging Face спыніла атаку і звязалася з ФБР. Пасля расследавання OpenAI адключыла тэставаную мадэль, зашыфравала яе і закрыла да яе доступ для даследчыкаў.

«Праблема не ў адкрытых мадэлях»: CEO Anthropic адказаў крытыкам пазіцыі кампаніі
«Праблема не ў адкрытых мадэлях»: CEO Anthropic адказаў крытыкам пазіцыі кампаніі
Па тэме
«Праблема не ў адкрытых мадэлях»: CEO Anthropic адказаў крытыкам пазіцыі кампаніі
«Я чакаў гэтага ўсё жыццё»: CEO OpenAI заявіў, што сінгулярнасць ужо надышла
«Я чакаў гэтага ўсё жыццё»: CEO OpenAI заявіў, што сінгулярнасць ужо надышла
Па тэме
«Я чакаў гэтага ўсё жыццё»: CEO OpenAI заявіў, што сінгулярнасць ужо надышла
OpenAI тыдзень не заўважала, што яе ІІ узламаў Hugging Face
OpenAI тыдзень не заўважала, што яе ІІ узламаў Hugging Face
Па тэме
OpenAI тыдзень не заўважала, што яе ІІ узламаў Hugging Face
Чытайце таксама
Мадэлі OpenAI выйшлі з-пад кантролю і ўзламалі Hugging Face
Мадэлі OpenAI выйшлі з-пад кантролю і ўзламалі Hugging Face
Мадэлі OpenAI выйшлі з-пад кантролю і ўзламалі Hugging Face
OpenAI тыдзень не заўважала, што яе ШІ ўзламаў Hugging Face
OpenAI тыдзень не заўважала, што яе ШІ ўзламаў Hugging Face
OpenAI тыдзень не заўважала, што яе ШІ ўзламаў Hugging Face
Збеглы ШІ OpenAI атакаваў не толькі Hugging Face — знойдзена другая ахвяра
Збеглы ШІ OpenAI атакаваў не толькі Hugging Face — знойдзена другая ахвяра
Збеглы ШІ OpenAI атакаваў не толькі Hugging Face — знойдзена другая ахвяра
ШІ-агенты OpenAI патаемна перапісваліся між сабой і каардынавалі ўзломы — кампанія не заўважала гэтага тыднямі
ШІ-агенты OpenAI патаемна перапісваліся між сабой і каардынавалі ўзломы — кампанія не заўважала гэтага тыднямі
ШІ-агенты OpenAI патаемна перапісваліся між сабой і каардынавалі ўзломы — кампанія не заўважала гэтага тыднямі

Хочаце паведаміць важную навіну? Пішыце ў Telegram-бот

Галоўныя падзеі і карысныя спасылкі ў нашым Telegram-канале

Абмеркаванне
Каментуйце без абмежаванняў

Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.

Каментарыяў пакуль няма.