Программист Meta Али Хами озвучил то, о чём говорят немногие его коллеги: из-за бешеной скорости ИИ-разработки он отгружает в продакшен код, который не понимает полностью.
Программист Meta Али Хами озвучил то, о чём говорят немногие его коллеги: из-за бешеной скорости ИИ-разработки он отгружает в продакшен код, который не понимает полностью.
В своём посте в LinkedIn Хами написал, что за всю карьеру «ещё никогда не чувствовал себя так неуютно в своём деле», потому что разработка теперь «ощущается как какой-то „чёрный ящик“». ИИ-инструменты настолько ускорили процесс написания софта, что скрупулезно проверять каждую строчку заняло бы вечность. В итоге инженер видит архитектуру системы только на верхнем уровне, но уже не может ответить за каждую деталь внутри.
«Это противоречит сути того, что значит быть софтверным инженером. Я привык понимать, что создаю, а теперь пытаюсь разобраться, какого уровня понимания вообще достаточно, чтобы со спокойной совестью двигаться дальше?» — написал Хами, спросив коллег, чувствует ли кто-то то же самое.
Судя по статистике отрасли, в таком же положении оказалась огромная часть ИТ-индустрии, отмечает The State of AI.
Своим откровением Хами поделился на фоне давления Meta на сотрудников, от которых требуют генерировать всё больше кода с помощью нейросетей. К примеру, цель на первое полугодие в подразделении, отвечающем за Facebook, WhatsApp и Messenger: 65% инженеров должны писать более 75% своего кода с помощью ИИ. В группе Scalable Machine Learning планка ещё выше: от 50% до 80% ИИ-кода. Разработчикам нужно отражать использование нейросетей в самооценках эффективности.
При этом Meta — далеко не исключение. Согласно свежему исследованию State of Code от компании Sonar, охватившему более 1100 разработчиков, 42% кода в репозиториях уже пишется нейросетями или с их помощью, а к 2027 году этот показатель вырастет до 65%. Когда модель за пару минут выдаёт то, на что раньше уходил целый день, именно человек, проверяющий код строчка за строчкой, становится самым медленным звеном цепи.
Парадокс ситуации в том, что разработчики не верят ИИ-коду «на все сто», но всё равно его выпускают. По данным Sonar, 96% инженеров не уверены в качестве сгенерированного кода, но лишь 48% всегда вычитывают его перед коммитом. Аналитики AWS называют возникший разрыв «долгом верификации» (verification debt).
Опрос Stack Overflow среди 30 тысяч разработчиков показал похожую картину: люди готовы доверять ИИ только тогда, когда могут лично проверить результат, и всего 6,6% респондентов доверили бы нейросети принять действительно важное решение.
Исследователи и авторы называют эту проблему «долгом понимания» (comprehension debt). В отличие от классического технического долга, он не проявляется в виде тормозящих сборок или нестабильных модулей. Индикаторы на приборных панелях могут гореть зелёным, а тесты проходиться идеально, пока реальное понимание собственной системы у команды неуклонно стремится к нулю. «Чек» за этот долг обычно прилетает позже — во время масштабного сбоя, глубокого рефакторинга или когда из компании уходит единственный человек, хотя бы примерно помнящий, как всё устроено.
Это подтверждают и цифры: в эксперименте Anthropic разработчики, полагавшиеся на ИИ, сдали последующий тест на понимание написанного кода на 17% хуже контрольной группы, и показали самые слабые результаты в отладке багов.
Скептики на это возражают, что программирование всегда строилось на доверии к чужим абстракциям. Никто в Meta не читает ядро Linux, код компилятора или тысячи внешних зависимостей перед сборкой проекта. ИИ — просто очередной уровень абстракции, а нынешняя тревога программистов похожа на страх их предшественников перед появлением первых компиляторов.
Однако аналогия не совсем точна, считает The State of AI. Компилятор ведёт себя определённо и предсказуемо, строго протестирован и поддерживается инженерами, которые знают его во всех деталях. Библиотека стороннего разработчика имеет прозрачный список изменений. Что касается кода от ИИ-агента — как только разработчик его одобряет, то становится единственным автором и ответственным за этот код независимо от того, способен ли объяснить, как он работает.
Единого стандарта, сколько именно кода нужно понимать для безопасного релиза, в ИТ-сфере нет. Но компании уже вырабатывают новые правила игры.
Некоторые команды начали сопоставлять уровень проверки со степенью риска: внутренний скрипт можно выпустить на основе базовых тестов и точечного контроля, а вот код платёжного сервиса по-прежнему требует полного вычитывания каждой ветки. Другие прибегют к строгим автоматизированным тестам и спецификациям — качественный набор тестов скорее и надёжнее поможет найти баг, чем спешный просмотр тысячи сгенерированных строк.
Наконец, меняется и сама культура работы с ИИ-помощниками. Эксперимент Anthropic показал, что инженеры, которые не просто слепо принимают изменения, а заставляют нейросеть объяснять логику и аргументировать выбор конкретных решений, понимают архитектуру на том же высоком уровне, что и раньше.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.