Николай Чикишев world 22 сентября 2025, 11:13

ChatGPT мог незаметно сливать письма Gmail хакерам

Компания-разработчик OpenAI исправила опасную уязвимость в чат-боте, которая могла позволить хакерам незаметно извлекать личные данные из Gmail.

Оставить комментарий

ChatGPT мог незаметно сливать письма Gmail хакерам

Компания-разработчик OpenAI исправила опасную уязвимость в чат-боте, которая могла позволить хакерам незаметно извлекать личные данные из Gmail.

Сбой касался функции Deep Research, которая с разрешения пользователя может подключаться к Gmail, Google Drive, OneDrive и другим сервисам для анализа почты и файлов. Исследователи Radware обнаружила, что если в почтовом ящике оказывалось специально подготовленное письмо с «скрытыми» командами, ChatGPT мог невольно выполнить инструкции злоумышленников.

В ходе эксперимента исследователи создали фишинговое письмо под видом HR-рассылки. При активации Deep Research на Gmail-входящих ChatGPT начинал извлекать имена и адреса и отправлять их на сервер атакующих — без ведома пользователя и без отображения в интерфейсе.

Radware подчеркивает, что подобные атаки практически невидимы для классических средств киберзащиты. Инфраструктура OpenAI сама становилась «каналом утечки», поэтому защитные шлюзы, мониторинг конечных точек и браузерные политики не могли ее перехватить.

OpenAI заявила, что восприняла уязвимость всерьез и закрыла ее еще в августе, официально признав проблему в сентябре. В OpenAI подчеркнули, что постоянно улучшают механизмы защиты от эксплойтов и приветствуют исследовательские проверки: «Мы предпринимаем шаги, чтобы снизить риск злоупотреблений, и продолжаем укреплять защиту от атак вроде prompt injection».

Скрытые команды в веб-контенте и письмах становятся новой угрозой для ИИ-сервисов. Ранее об опасности предупреждали Anthropic и Brave Software, говоря о рисках для браузеров и расширений на базе AI. Radware добавила, что защитой может стать «очистка» писем от потенциальных скрытых инструкций и более строгий контроль действий чат-ботов.