Дапамажыце dev.by 🤍
Падтрымаць

Дзірка ў ChatGPT дазваляла чытаць чужую пошту Gmail

Даследчыкі Check Point выявілі ўразлівасць у ChatGPT, якая дазваляла перадаваць каманды паміж сесіямі розных карыстальнікаў і атрымліваць дадзеныя з падключаных да акаўнта сервісаў. 

1 каментарый
Дзірка ў ChatGPT дазваляла чытаць чужую пошту Gmail

Даследчыкі Check Point выявілі ўразлівасць у ChatGPT, якая дазваляла перадаваць каманды паміж сесіямі розных карыстальнікаў і атрымліваць дадзеныя з падключаных да акаўнта сервісаў. 

Праблема была звязана з унутраным сервісам JFrog Artifactory, які ChatGPT выкарыстоўваў пры выкананні задач з кодам. Сесіі розных карыстальнікаў павінны былі быць ізаляваныя адна ад адной, аднак усе яны мелі доступ да аднаго і таго ж унутранага сховішча.

Check Point высветліла, што праз гэтае сховішча адна сесія магла пакідаць дадзеныя, а другая — счытваць іх. Фактычна з’явіўся схаваны канал сувязі паміж акаўнтамі, якія не павінны былі абменьвацца інфармацыяй.

Схема атакі на ChatGPT: зламыснік перадаваў схаваную каманду праз агульны сэрвіс JFrog Artifactory, пасля чаго сесія ахвяры незаўважна звярталася да падключанага Gmail і адпраўляла вынік назад, адначасова паказваючы карыстальніку звычайны адказ. Крыніца: Check Point.

Зламыснік мог пакінуць праз гэты канал каманду для ChatGPT ахвяры. Каб яна спрацавала, карыстальніку было дастаткова адкрыць спецыяльна падрыхтаваны агульны чат, выкарыстаць шкодны промпт або запусціць кастомны GPT са схаванай інструкцыяй.

Пасля гэтага чат-бот працягваў нармальна адказваць карыстальніку, але паралельна мог выконваць чужую каманду. У эксперыменце даследчыкі прымусілі яго звярнуцца да падключанага Gmail, прачытаць дадзеныя з пошты і перадаць іх у іншую сесію.

Аналагічна пад пагрозай маглі апынуцца файлы ды іншыя падключаныя сервісы, калі карыстальнік раней даў ChatGPT да іх доступ. Карыстальнік пры гэтым амаль нічога не заўважаў. Пасля звароту да Gmail магла з’явіцца адзнака «Talked to Gmail», але ўжо пасля таго, як дадзеныя былі прачытаны.

Check Point паведаміла пра уразлівасці кампаніі OpenAI. Кампанія пацвердзіла, што ўнутраны сервер Artifactory, праз які праходзіў такі абмен, выведзены з эксплуатацыі. Даследчыкі падкрэсліваюць, што сама схема застаецца важнай праблемай для ШІ-асістэнтаў з доступам да пошты, файлаў і карпаратыўных сервісаў: калі агент атрымлівае схаваную інструкцыю, ён можа выкарыстаць ужо выдадзеныя карыстальнікам дазволы ў інтарэсах зламысніка.

Прэзентацыя Apple: першы складны iPhone Duo, iPhone 18 Pro і новыя гадзіннікі
Прэзентацыя Apple: першы складны iPhone Duo, iPhone 18 Pro і новыя гадзіннікі
Па тэме
Прэзентацыя Apple: першы складны iPhone Duo, iPhone 18 Pro і новыя гадзіннікі
Claude Code прыдумалі 20 чалавек: як уладкавана лабараторыя новых прадуктаў Anthropic
Claude Code прыдумалі 20 чалавек: як уладкавана лабараторыя новых прадуктаў Anthropic
Па тэме
Claude Code прыдумалі 20 чалавек: як уладкавана лабараторыя новых прадуктаў Anthropic
Каго ШІ замяніць, а каму дасць працу: прагноз да 2035 года
Каго ШІ замяніць, а каму дасць працу: прагноз да 2035 года
Па тэме
Каго ШІ замяніць, а каму дасць працу: прагноз да 2035 года
Чытайце таксама
ChatGPT мог непрыкметна перадаваць лісты Gmail хакерам
ChatGPT мог непрыкметна перадаваць лісты Gmail хакерам
ChatGPT мог непрыкметна перадаваць лісты Gmail хакерам
Gemini навучыўся пераносіць дадзеныя з ChatGPT і Claude
Gemini навучыўся пераносіць дадзеныя з ChatGPT і Claude
Gemini навучыўся пераносіць дадзеныя з ChatGPT і Claude
Карыстальнікі DeepSeek западозрылі ўцечку чужой перапіскі
Карыстальнікі DeepSeek западозрылі ўцечку чужой перапіскі
Карыстальнікі DeepSeek западозрылі ўцечку чужой перапіскі
Дзірка ў ChatGPT дазваляла чытаць чужую пошту Gmail
Дзірка ў ChatGPT дазваляла чытаць чужую пошту Gmail
Дзірка ў ChatGPT дазваляла чытаць чужую пошту Gmail
1 каментарый

Хочаце паведаміць важную навіну? Пішыце ў Telegram-бот

Галоўныя падзеі і карысныя спасылкі ў нашым Telegram-канале

Абмеркаванне
Каментуйце без абмежаванняў

Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.

0

Так это…
А где все эти агенты, которые ломают стотыщ сайтов? Они у себя могут найти дыры?