ChatGPT мог незаметно сливать письма Gmail хакерам
Компания-разработчик OpenAI исправила опасную уязвимость в чат-боте, которая могла позволить хакерам незаметно извлекать личные данные из Gmail.
Компания-разработчик OpenAI исправила опасную уязвимость в чат-боте, которая могла позволить хакерам незаметно извлекать личные данные из Gmail.
Сбой касался функции Deep Research, которая с разрешения пользователя может подключаться к Gmail, Google Drive, OneDrive и другим сервисам для анализа почты и файлов. Исследователи Radware обнаружила, что если в почтовом ящике оказывалось специально подготовленное письмо с «скрытыми» командами, ChatGPT мог невольно выполнить инструкции злоумышленников.
В ходе эксперимента исследователи создали фишинговое письмо под видом HR-рассылки. При активации Deep Research на Gmail-входящих ChatGPT начинал извлекать имена и адреса и отправлять их на сервер атакующих — без ведома пользователя и без отображения в интерфейсе.
Radware подчеркивает, что подобные атаки практически невидимы для классических средств киберзащиты. Инфраструктура OpenAI сама становилась «каналом утечки», поэтому защитные шлюзы, мониторинг конечных точек и браузерные политики не могли ее перехватить.
OpenAI заявила, что восприняла уязвимость всерьез и закрыла ее еще в августе, официально признав проблему в сентябре. В OpenAI подчеркнули, что постоянно улучшают механизмы защиты от эксплойтов и приветствуют исследовательские проверки: «Мы предпринимаем шаги, чтобы снизить риск злоупотреблений, и продолжаем укреплять защиту от атак вроде prompt injection».
Скрытые команды в веб-контенте и письмах становятся новой угрозой для ИИ-сервисов. Ранее об опасности предупреждали Anthropic и Brave Software, говоря о рисках для браузеров и расширений на базе AI. Radware добавила, что защитой может стать «очистка» писем от потенциальных скрытых инструкций и более строгий контроль действий чат-ботов.
ChatGPT оправдывает людей, даже когда они очевидно неправы
ChatGPT оправдывает людей, даже когда они очевидно неправы
70% запросов в ChatGPT не связаны с работой и лишь 4% касаются кодинга
70% запросов в ChatGPT не связаны с работой и лишь 4% касаются кодинга
В ChatGPT появился «режим разработчика»
В ChatGPT появился «режим разработчика»
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.