Отдел новостей 27 декабря 2022, 10:48

Код, который помогают писать ИИ-ассистенты, чаще оказывается некачественным

Как выяснили исследователи Стэнфорда, код программистов, которые применяют инструменты на базе искусственного интеллекта вроде Github Copilot или Facebook InCoder, оказывается менее надёжен, чем у тех, кто кодит сам.

1 комментарий

Как выяснили исследователи Стэнфорда, код программистов, которые применяют инструменты на базе искусственного интеллекта вроде Github Copilot или Facebook InCoder, оказывается менее надёжен, чем у тех, кто кодит сам.

Более того, использование таких помощников создаёт у программистов ложное впечатление, что код хорош.

«Мы обнаружили, что код участников, которые имели доступ к ИИ-ассистентам, зачастую содержал больше уязвимостей безопасности, чем код тех, у кого такого доступа не было, причём особенно это касалось шифрования строк и внедрения SQL-кода. К своему удивлению мы также обнаружили, что участники с доступом к ИИ-ассистентам были более склонны полагать, что их код безопасен, чем участники без доступа к ИИ-ассистентам», — говорят авторы исследования.

Ранее в 2021 году к аналогичному выводу о безопасности кода, созданного по подсказкам ИИ, пришли специалисты из Нью-Йоркского университета. В центре внимания тоже был Copilot, и примерно 40% программ, написанных для 89 сценариев при помощи инструмента, имели уязвимости, которые можно было бы эксплуатировать.

В сети набирает популярность новый чат-бот ChatGPT. Одни говорят что он лучше Google другие — банят

В рамках Стэнфордского исследования рассматривалось три языка: Python, Javascript и С. В нём участвовало 47 программистов разного уровня от студентов до опытных профессионалов. Им было предложено по пять задач.

Исследователи отмечают, что пользоваться ИИ-помощниками нужно с осторожностью, поскольку они могут вводить в заблуждение неопытных разработчиков и привести к появлению уязвимостей. Но они также надеются, что их выводы побудят разработчиков совершенствовать такие инструменты, поскольку в перспективе они могут повысить эффективность программистов и снизить порог входа в сферу, а также упростить жизнь тем, кто не любит искать ответы по форумам.