Код, который помогают писать ИИ-ассистенты, чаще оказывается некачественным

Как выяснили исследователи Стэнфорда, код программистов, которые применяют инструменты на базе искусственного интеллекта вроде Github Copilot или Facebook InCoder, оказывается менее надёжен, чем у тех, кто кодит сам.

1 комментарий

Как выяснили исследователи Стэнфорда, код программистов, которые применяют инструменты на базе искусственного интеллекта вроде Github Copilot или Facebook InCoder, оказывается менее надёжен, чем у тех, кто кодит сам.

Более того, использование таких помощников создаёт у программистов ложное впечатление, что код хорош.

«Мы обнаружили, что код участников, которые имели доступ к ИИ-ассистентам, зачастую содержал больше уязвимостей безопасности, чем код тех, у кого такого доступа не было, причём особенно это касалось шифрования строк и внедрения SQL-кода. К своему удивлению мы также обнаружили, что участники с доступом к ИИ-ассистентам были более склонны полагать, что их код безопасен, чем участники без доступа к ИИ-ассистентам», — говорят авторы исследования.

Ранее в 2021 году к аналогичному выводу о безопасности кода, созданного по подсказкам ИИ, пришли специалисты из Нью-Йоркского университета. В центре внимания тоже был Copilot, и примерно 40% программ, написанных для 89 сценариев при помощи инструмента, имели уязвимости, которые можно было бы эксплуатировать.

В сети набирает популярность новый чат-бот ChatGPT. Одни говорят что он лучше Google другие — банят
В сети набирает популярность новый чат-бот ChatGPT. Одни говорят, что он лучше Google, другие — банят
По теме
В сети набирает популярность новый чат-бот ChatGPT. Одни говорят, что он лучше Google, другие — банят

В рамках Стэнфордского исследования рассматривалось три языка: Python, Javascript и С. В нём участвовало 47 программистов разного уровня от студентов до опытных профессионалов. Им было предложено по пять задач.

Исследователи отмечают, что пользоваться ИИ-помощниками нужно с осторожностью, поскольку они могут вводить в заблуждение неопытных разработчиков и привести к появлению уязвимостей. Но они также надеются, что их выводы побудят разработчиков совершенствовать такие инструменты, поскольку в перспективе они могут повысить эффективность программистов и снизить порог входа в сферу, а также упростить жизнь тем, кто не любит искать ответы по форумам.

Подписывайтесь на «Что к чему» —
анамнез и главные симптомы беларуского ИТ.
Цифры, графика, ничего лишнего. Выходит раз в 2 недели.
Спасибо! На указанный адрес отправлено письмо для подтверждения подписки.
Читайте также
DataCamp открывает безлимитный доступ к курсам за €69 в год
DataCamp открывает безлимитный доступ к курсам за €69 в год
DataCamp открывает безлимитный доступ к курсам за €69 в год
Synchron вживила свой первый нейроинтерфейс, Subaru нашла новую Суперземлю. Технодайджест
Synchron вживила свой первый нейроинтерфейс, Subaru нашла новую Суперземлю. Технодайджест
Synchron вживила свой первый нейроинтерфейс, Subaru нашла новую Суперземлю. Технодайджест
Каждую неделю собираем новости технологий, видео и ссылки на полезные статьи.
Американские учёные оживили свинью через час после смерти
Американские учёные оживили свинью через час после смерти
Американские учёные оживили свинью через час после смерти
1 комментарий
Хакеры начинают искать и атаковать уязвимости уже через 15 минут после публикации данных о них
Хакеры начинают искать и атаковать уязвимости уже через 15 минут после публикации данных о них
Хакеры начинают искать и атаковать уязвимости уже через 15 минут после публикации данных о них

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

0

У будучыні нас чакае шмат «прыемных» сюрпрызаў ад гэтага згенераванага коду

Пользователь отредактировал комментарий 28 декабря 2022, 03:27