ИИ-агенты ускоряют программирование, но разработчики рискуют перестать понимать собственный код. Кунал Бхалла, инженер Thinking Machines Lab, назвал эту проблему «когнитивной капитуляцией».
ИИ-агенты ускоряют программирование, но разработчики рискуют перестать понимать собственный код. Кунал Бхалла, инженер Thinking Machines Lab, назвал эту проблему «когнитивной капитуляцией».
В эссе под названием Resisting Cognitive Surrender разработчик описал, как разработчики постепенно привыкают бездумно принимать решения ИИ. Это экономит время, но приводит к накоплению технического долга и утрате контроля над проектами.
«Когда я не разбираюсь в теме, агенты кажутся умнейшими инженерами на свете. Я могу только восхищенно следовать за ними. А потом агент застревает на создании директории, и мне приходится пересматривать все свои представления», — пишет Бхалла.
Особенно его беспокоит утрата понимания собственного кода. Раньше он мог быстро находить ошибки, поскольку сам создавал систему. Теперь для исправления приходится обращаться к ИИ, что только усиливает зависимость.
«Чем больше я полагаюсь на агентов, тем чаще единственный выход — запустить еще одну сессию и надеяться на лучшее», — признается разработчик.
Чтобы этого избежать, Бхалла предложил понятие vibe limit — предел сложности изменений, которые он способен уверенно проверить. Простые задачи и прототипы он доверяет агентам, но важные технические решения старается контролировать самостоятельно. Например, при написании самого эссе он использовал Codex только для поиска ошибок и редакторских замечаний. Все изменения вносил вручную.
Эссе вызвало дискуссию на Hacker News. Пользователь zmmmmm пожаловался, что ИИ нередко неоправданно усложняет код: «То, что раньше я постарался бы сократить до 30 строк, теперь раздувается до сотен или даже тысяч».
Пользователь lioeters рассказал, как огромные объемы ИИ-кода влияют на командную разработку. По его наблюдениям, программисты начинают поверхностно проверять изменения, а со временем перестают понимать устройство собственных проектов.
«Я видел, как это разрушало крупные проекты, пока никто уже не понимал кодовую базу, наполненную многословным бессмысленным кодом и комментариями», — написал он.
Однако не все согласились с опасениями автора. Пользователь xyzzy123 отметил, что людям без технического образования ИИ, наоборот, помогает лучше понимать программы. «Они не читали код раньше и не читают сейчас. Но задавать вопросы и разбираться в устройстве системы и ее архитектуре теперь быстрее и проще, чем раньше», — написал он.
Разработчик sfn42 считает, что качество результата прежде всего зависит от человека: «LLM способны писать чистый, красивый и эффективный код. Просто они не обязательно сделают именно то, что вам нужно, с первой попытки и без каких-либо указаний».
Сам Бхалла не призывает отказываться от ИИ. Его главный аргумент — разработчик должен сохранять контроль над результатом. «В конечном счете за то, что я создаю, отвечаю я, а не агенты», — заключает он.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
На картинке Кунал Бхалла и его ноутбук открытый наоборот
Главная ошибка, которую совершают сейчас руководители: они спрашивают кодерков чего те хотят и как будет правильно.
Между тем за последний год индустрия изменилась до неузнаваемости, и те кто не успел начать хотя бы год назад уже никогда её не догонят.
Проблема умножается, когда конформные директора поддаются текущему тренду на безопасность, вводят правила, предложенные ИИ - и теперь у тебя null-check в абсолютно каждом методе, 2FA на каждый чих, immutable везде, и много другого в коде.