Бомба замедленного действия: кодеры с ИИ-ассистентами создают в 10 раз больше уязвимостей
ИИ-помощники буквально помогают программистам «двигаться быстро и ломать вещи» — вернее, с повышенной продуктивностью генерить проблемы безопасности. Израильская ИБ-компания Apiiro проанализировала десятки тысяч репозиториев с кодом, который написан несколькими тысячами разработчиков, связанных с компаниями из списка Fortune 50. Исследователи хотели понять, как ИИ-инструменты вроде Claude Code, GPT-5 и Gemini 2.5 Pro влияют на качество кода.
ИИ-помощники буквально помогают программистам «двигаться быстро и ломать вещи» — вернее, с повышенной продуктивностью генерить проблемы безопасности. Израильская ИБ-компания Apiiro проанализировала десятки тысяч репозиториев с кодом, который написан несколькими тысячами разработчиков, связанных с компаниями из списка Fortune 50. Исследователи хотели понять, как ИИ-инструменты вроде Claude Code, GPT-5 и Gemini 2.5 Pro влияют на качество кода.
Оказалось, что разработчики, которые пользуются ассистентами, выдают в 3-4 раза больше кода, чем их самостоятельные коллеги. И создают в 10 раз больше проблем безопасности. Под таковыми исследователи подразумевают не уязвимости, которые можно эксплуатировать, а более широкий круг рисков, таких как новые зависимости от стороннего опенсорсного кода, небезопасные шаблоны программирования, случайно оставленные в коде секреты и ошибки в настройках облака.
Как подсчитали в Apiiro к июню, в сгенерированном коде появлялось более 10 тысяч новых проблем безопасности в месяц — в 10 раз больше по сравнению с прошлым декабрём. Там отмечают, что ИИ плодит не какой-то один вид уязвимостей, а все возможные сразу, и призывают руководство компаний, в которых кодеры пользуются ИИ, уделять повышенное внимание безопасности кода.
С другой стороны, ИИ-ассистенты сократили количество синтаксических и логических ошибок в коде на 76% и 60% соответственно. Между тем в ИИ-коде на 322% чаще встречаются ошибки, чреватые уязвимостями, ведущими к повышению привилегий, и на 153% чаще — архитектурные изъяны. «Иными словами, ИИ исправляет опечатки в коде, но закладывает бомбы замедленного действия», — отмечают исследователи.
С++, несмотря на свой солидный возраст, остается одним из основных языков программирования, который применется очень широко: от разработки ПО до создания игр. В сети много ресурсов, которые помогут освоить этот язык. Советуем обратить внимаение на подборку команды Digitaldefynd, котрую мы дополнили. В ней как платные, так и бесплатные ресурсы для людей с разным уровнем подготовки и знаний С++.
Только сегодня при покупке NordVPN c тарифным планом на 2 года или год вы экономите до 68% и получаете возможность блокировать вредоносные ПО, трекеры, защищать вашу личную информацию от различных веб-сайтов.
"Большие языковые модели обходятся слишком дорого, причем до такой степени, что любой, кто финансирует «стартап в области ИИ», фактически отправляет эти деньги в Anthropic или OpenAI, которые затем немедленно отправляют эти деньги в Amazon, Google или Microsoft, которые пока не могут доказать, что получили какую-либо прибыль от их продажи."
"В любом случае, у нас нет ни одного — буквально одного — прибыльного разработчика моделей, ни одной компании, предоставляющей эти услуги, которая не несла бы многомиллионные или миллиардные убытки. Более того, даже если вычесть расходы на обучение моделей из выручки OpenAI за 2024 год ( данные предоставлены The Information ), OpenAI всё равно потеряла бы 2,2 миллиарда долларов."
*У генеративного ИИ есть серьёзная проблема, которую большинство технологических и деловых СМИ отчаянно избегают обсуждать: все компании убыточны, даже те, кто сам предоставляет модели. Журналисты годами размахивали руками, обсуждая этот вопрос, настаивая, что «эти компании просто разберутся», но так и не объяснили, как именно они это сделают, кроме как «стоимость вывода снизится» или «новые процессоры снизят стоимость вычислений»."
https://futurism.com/more-people-learn-ai-trust
У индустрии высоких технологий есть грязный секрет: чем больше люди узнают об ИИ, тем меньше они ему доверяют
«Люди с низким уровнем грамотности в области искусственного интеллекта чаще воспринимают искусственный интеллект как нечто магическое и испытывают благоговение».
"«Есть люди, которые знают, что ИИ несовершенен, а есть те, кто приходит к вам в гневе, потому что им самим не удалось добиться успеха с помощью ИИ», — сказал Карстенс в интервью NBC . «И нужно проявить сочувствие. Не хочется, чтобы они чувствовали себя идиотами. Тогда нужно это исправить».
И дело не только в художниках. Киша Ричардсон, внештатный автор по профессии, начала подрабатывать редактированием текстов, написанных ИИ, несмотря на то, насколько это может деморализовать."
Пользователь отредактировал комментарий 6 сентября 2025, 21:43
"Похоже, компании, настаивавшие на инвестициях в ИИ, постепенно осознают серьёзные проблемы этой технологии. Харш Кумар, индийский разработчик приложений и веб-сайтов, рассказал NBC , что видит всё больше клиентов, которые отказываются от так называемого «вибрационного кодинга» — весьма нелепого термина, обозначающего использование ИИ для написания кода вместо того, чтобы, как вы понимаете, писать его самостоятельно — в пользу реальных разработчиков."
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
https://www.wheresyoured.at/why-everybody-is-losing-money-on-ai/ почему все теряют деньги на генеративном ии
"Большие языковые модели обходятся слишком дорого, причем до такой степени, что любой, кто финансирует «стартап в области ИИ», фактически отправляет эти деньги в Anthropic или OpenAI, которые затем немедленно отправляют эти деньги в Amazon, Google или Microsoft, которые пока не могут доказать, что получили какую-либо прибыль от их продажи."
"В любом случае, у нас нет ни одного — буквально одного — прибыльного разработчика моделей, ни одной компании, предоставляющей эти услуги, которая не несла бы многомиллионные или миллиардные убытки. Более того, даже если вычесть расходы на обучение моделей из выручки OpenAI за 2024 год ( данные предоставлены The Information ), OpenAI всё равно потеряла бы 2,2 миллиарда долларов."
*У генеративного ИИ есть серьёзная проблема, которую большинство технологических и деловых СМИ отчаянно избегают обсуждать: все компании убыточны, даже те, кто сам предоставляет модели. Журналисты годами размахивали руками, обсуждая этот вопрос, настаивая, что «эти компании просто разберутся», но так и не объяснили, как именно они это сделают, кроме как «стоимость вывода снизится» или «новые процессоры снизят стоимость вычислений»."
https://futurism.com/more-people-learn-ai-trust
У индустрии высоких технологий есть грязный секрет: чем больше люди узнают об ИИ, тем меньше они ему доверяют
«Люди с низким уровнем грамотности в области искусственного интеллекта чаще воспринимают искусственный интеллект как нечто магическое и испытывают благоговение».
https://futurism.com/companies-hiring-humans-fix-ai
Отчаявшиеся компании теперь нанимают людей, чтобы исправить ошибки ИИ
«Они понимают, что без людей им не обойтись».
"«Есть люди, которые знают, что ИИ несовершенен, а есть те, кто приходит к вам в гневе, потому что им самим не удалось добиться успеха с помощью ИИ», — сказал Карстенс в интервью NBC . «И нужно проявить сочувствие. Не хочется, чтобы они чувствовали себя идиотами. Тогда нужно это исправить».
И дело не только в художниках. Киша Ричардсон, внештатный автор по профессии, начала подрабатывать редактированием текстов, написанных ИИ, несмотря на то, насколько это может деморализовать."
Пользователь отредактировал комментарий 6 сентября 2025, 21:43
"Похоже, компании, настаивавшие на инвестициях в ИИ, постепенно осознают серьёзные проблемы этой технологии. Харш Кумар, индийский разработчик приложений и веб-сайтов, рассказал NBC , что видит всё больше клиентов, которые отказываются от так называемого «вибрационного кодинга» — весьма нелепого термина, обозначающего использование ИИ для написания кода вместо того, чтобы, как вы понимаете, писать его самостоятельно — в пользу реальных разработчиков."
Вибрационного кодинга? Заявка на перевод года