«Я же вставил всего пару функций». Как AI-инструменты становятся источником утечек кода и как этого избежать

Кто пишет: проект о кибер-безопасности CyberBeaver.  

Кейс, который всё объясняет

В апреле 2023 года инженеры Samsung трижды за 20 дней загрузили в ChatGPT внутренний исходный код, алгоритмы обнаружения дефектов и даже запись закрытого совещания. После этого компания временно запретила использование внешних генеративных AI-инструментов на корпоративных устройствах. Переданные данные уже находились за пределами корпоративного периметра, и вернуть их было невозможно.

Это не было кибератакой: сотрудники просто использовали удобный инструмент, не задумываясь, что конфиденциальная информация передается внешнему сервису.

С тех пор AI-инструментов стало значительно больше, а вместе с ними вырос и риск непреднамеренной передачи корпоративных данных.ё

Когда ты работаешь с AI-инструментом, внешнему сервису может передаваться не только строка, которую ты попросил дописать. Некоторые инструменты отправляют модели не только выделенный фрагмент, но и дополнительный контекст, например, код вокруг курсора или содержимое связанных файлов.

Чаще всего разработчики, сами того не замечая, отправляют в AI:

• фрагменты исходного кода;
• конфигурационные файлы;
• сообщения об ошибках;
• SQL-запросы;
• логи приложений;
• API-ключи и токены, случайно оставшиеся в коде;
• внутреннюю документацию;
• описание архитектуры продукта.

Даже если кажется, что это всего лишь небольшой фрагмент, в нём могут содержаться коммерческие секреты, персональные данные или информация, подпадающая под NDA.

От чего зависит судьба вашего кода

Тут важно учитывать три вещи:

• какой инструмент вы используете;
• какой у вас тариф;
• что разрешают политика безопасности вашей компании и условия NDA.

ChatGPT

Free / Plus / Pro: содержимое чатов может использоваться для улучшения моделей, если пользователь не отключил эту возможность в настройках (Settings → Data Controls). Для конфиденциальных задач лучше использовать режим Temporary Chat, который не используется для обучения моделей.

Team / Enterprise / API: содержимое запросов не используется для обучения моделей. Эти тарифы рассчитаны на корпоративное использование и предусматривают дополнительные гарантии защиты данных.

Claude

Free / Pro: использование разговоров для обучения моделей зависит от выбранных пользователем настроек конфиденциальности. Перед работой с корпоративным кодом стоит проверить параметры аккаунта.

API: запросы через API не используются для обучения моделей.

GitHub Copilot

Free / Pro / Pro+: использование данных зависит от настроек аккаунта и действующей политики GitHub. Перед загрузкой корпоративного кода рекомендуется проверить параметры конфиденциальности и использования данных.

Business / Enterprise: пользовательский код не используется для обучения моделей. Предусмотрены дополнительные средства управления безопасностью и корпоративные гарантии.

Cursor

Поддерживает работу с моделями OpenAI, Anthropic, Google и другими. Может индексировать проект целиком, а не только открытый файл. Для работы с корпоративными проектами рекомендуется использовать Privacy Mode. 

DeepSeek

Обрабатывает данные в соответствии со своей политикой конфиденциальности и указывает, что данные могут храниться на серверах в Китае. Перед использованием с корпоративным кодом стоит внимательно изучить условия обработки данных.

Отдельно про агентные инструменты

Windsurf, Claude Code, GitHub Copilot (Agent Mode), OpenAI Codex и другие AI-агенты работают не так, как обычные чат-боты.

Если классический чат анализирует только тот фрагмент, который вы ему отправили, то агентные инструменты могут получить значительно более широкий доступ. В зависимости от настроек и предоставленных разрешений они способны индексировать весь репозиторий, читать множество файлов, анализировать структуру проекта, просматривать конфигурации и выполнять команды в терминале.

Это не означает, что каждый агент автоматически получает доступ ко всему проекту. Всё зависит от конкретного инструмента и разрешений, которые ты ему предоставляешь. Именно поэтому при работе с AI-агентами важно учитывать не только политику обработки данных сервиса, но и объем доступа, который ты ему открываешь. 

Где граница между нормальной работой и нарушением условий договора

Обсуждать абстрактные алгоритмы, просить объяснить ошибку без передачи корпоративного кода, использовать синтетические или обезличенные примеры — нормальная практика.

А вот отправка внутренних файлов, частей закрытого репозитория, конфиденциальной документации или клиентских данных может нарушать условия NDA или внутренние политики безопасности компании. Даже если сервис обещает не обучать модели на твоих данных, сам факт передачи информации третьей стороне уже может быть нарушением корпоративных правил.

Что сделать прямо сейчас

• Используй корпоративные версии AI-сервисов, если их предоставляет работодатель.
• Не отправляй API-ключи, токены и пароли.
• Удаляй персональные данные и другую чувствительную информацию из примеров.
• Проверь настройки конфиденциальности и обучения моделей в каждом AI-инструменте, которым пользуешься.

Перед тем как отправить код в любой AI-инструмент, стоит честно ответить себе: что будет, если этот фрагмент увидит кто-то за пределами компании? Если сомневаешься, то лучше сначала проверь корпоративные правила.

Мнение автора может не отражать позицию редакции. 

Что ещё почитать про искусственный интеллект в работе (и жизни): 

• «Руками кривой код пишется не реже». Фуллстек-разработчик о том, как ИИ изменил его профессию; 
• Три года с ChatGPT. Как исскуственный интеллект стал моим стилистом, терапевтом и преподавателем; 
• «Намного больше удовольствия». Как кайфануть от AI и научить команду — рассказывает Head of Awareness.