Бомба запаволенага дзеяння: кодэры з ШІ-асістэнтамі ствараюць у 10 разоў больш уразлівасцей
ШІ-асістэнты літаральна дапамагаюць праграмістам «рухацца хутка і ламаць рэчы» — дакладней, з павышанай прадуктыўнасцю генераваць праблемы бяспекі. Ізраільская ІБ-кампанія Apiiro прааналізавала дзясяткі тысяч рэпазіторыяў з кодам, які напісаны некалькімі тысячамі распрацоўшчыкаў, звязаных з кампаніямі са спіса Fortune 50. Даследчыкі хацелі зразумець, як ШІ-інструменты накшталт Claude Code, GPT-5 і Gemini 2.5 Pro ўплываюць на якасць кода.
ШІ-асістэнты літаральна дапамагаюць праграмістам «рухацца хутка і ламаць рэчы» — дакладней, з павышанай прадуктыўнасцю генераваць праблемы бяспекі. Ізраільская ІБ-кампанія Apiiro прааналізавала дзясяткі тысяч рэпазіторыяў з кодам, які напісаны некалькімі тысячамі распрацоўшчыкаў, звязаных з кампаніямі са спіса Fortune 50. Даследчыкі хацелі зразумець, як ШІ-інструменты накшталт Claude Code, GPT-5 і Gemini 2.5 Pro ўплываюць на якасць кода.
Высветлілася, што распрацоўшчыкі, якія карыстаюцца асістэнтамі, выдаюць у 3-4 разы больш кода, чым іх самастойныя калегі. І ствараюць у 10 разоў больш праблем бяспекі. Пад такімі даследчыкі маюць на ўвазе не ўразлівасці, якія можна эксплуатаваць, а больш шырокі круг рызык, такіх як новыя залежнасці ад старонняга опенсорснага кода, небяспечныя шаблоны праграмавання, выпадкова пакінутыя ў кодзе сакрэты і памылкі ў наладах воблака.
Як падлічылі ў Apiiro да чэрвеня, у згенераваным кодзе з’яўлялася больш за 10 тысяч новых праблем бяспекі ў месяц — у 10 разоў больш у параўнанні з мінулым снежнем. Там адзначаюць, што ШІ пладзіць не нейкі адзін від уразлівасцяў, а ўсе магчымыя адразу, і заклікаюць кіраўніцтва кампаній, у якіх кодэры карыстаюцца ШІ, надаваць павышаную ўвагу бяспецы кода.
З іншага боку, ШІ-асістэнты скарацілі колькасць сінтаксічных і лагічных памылак у кодзе на 76% і 60% адпаведна. Між тым у ШІ-кодзе на 322% часцей сустракаюцца памылкі, якія пагражаюць уразлівасцямі, што вядуць да павышэння прывілеяў, і на 153% часцей — архітэктурныя дэфекты. «Іншымі словамі, ШІ выпраўляе апіскі ў кодзе, але закладвае бомбы запаволенага дзеяння», — адзначаюць даследчыкі.
С++, несмотря на свой солидный возраст, продолжает оставаться одним из самых популярных языков программирования с широкой сферой применения: от разработки ПО до создания игр. В сети можно найти достаточно ресурсов, которые помогут освоить этот язык. Мы предлагаем обратить внимание на подборку, подготовленную Digitaldefynd и дополненную нами. В ней собраны как бесплатные, так и платные ресурсы для людей с разным уровнем подготовки и знаний С++.
Акция от NordVPN: подписка на два года за $3.29 в месяц
При покупке NordVPN c тарифным планом на 2 года вы экономите 60% и получаете возможность блокировать вредоносные ПО, трекеры, защищать вашу личную информацию от различных веб-сайтов.
"Большие языковые модели обходятся слишком дорого, причем до такой степени, что любой, кто финансирует «стартап в области ИИ», фактически отправляет эти деньги в Anthropic или OpenAI, которые затем немедленно отправляют эти деньги в Amazon, Google или Microsoft, которые пока не могут доказать, что получили какую-либо прибыль от их продажи."
"В любом случае, у нас нет ни одного — буквально одного — прибыльного разработчика моделей, ни одной компании, предоставляющей эти услуги, которая не несла бы многомиллионные или миллиардные убытки. Более того, даже если вычесть расходы на обучение моделей из выручки OpenAI за 2024 год ( данные предоставлены The Information ), OpenAI всё равно потеряла бы 2,2 миллиарда долларов."
*У генеративного ИИ есть серьёзная проблема, которую большинство технологических и деловых СМИ отчаянно избегают обсуждать: все компании убыточны, даже те, кто сам предоставляет модели. Журналисты годами размахивали руками, обсуждая этот вопрос, настаивая, что «эти компании просто разберутся», но так и не объяснили, как именно они это сделают, кроме как «стоимость вывода снизится» или «новые процессоры снизят стоимость вычислений»."
https://futurism.com/more-people-learn-ai-trust
У индустрии высоких технологий есть грязный секрет: чем больше люди узнают об ИИ, тем меньше они ему доверяют
«Люди с низким уровнем грамотности в области искусственного интеллекта чаще воспринимают искусственный интеллект как нечто магическое и испытывают благоговение».
"«Есть люди, которые знают, что ИИ несовершенен, а есть те, кто приходит к вам в гневе, потому что им самим не удалось добиться успеха с помощью ИИ», — сказал Карстенс в интервью NBC . «И нужно проявить сочувствие. Не хочется, чтобы они чувствовали себя идиотами. Тогда нужно это исправить».
И дело не только в художниках. Киша Ричардсон, внештатный автор по профессии, начала подрабатывать редактированием текстов, написанных ИИ, несмотря на то, насколько это может деморализовать."
Пользователь отредактировал комментарий 6 сентября 2025, 21:43
"Похоже, компании, настаивавшие на инвестициях в ИИ, постепенно осознают серьёзные проблемы этой технологии. Харш Кумар, индийский разработчик приложений и веб-сайтов, рассказал NBC , что видит всё больше клиентов, которые отказываются от так называемого «вибрационного кодинга» — весьма нелепого термина, обозначающего использование ИИ для написания кода вместо того, чтобы, как вы понимаете, писать его самостоятельно — в пользу реальных разработчиков."
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
https://www.wheresyoured.at/why-everybody-is-losing-money-on-ai/ почему все теряют деньги на генеративном ии
"Большие языковые модели обходятся слишком дорого, причем до такой степени, что любой, кто финансирует «стартап в области ИИ», фактически отправляет эти деньги в Anthropic или OpenAI, которые затем немедленно отправляют эти деньги в Amazon, Google или Microsoft, которые пока не могут доказать, что получили какую-либо прибыль от их продажи."
"В любом случае, у нас нет ни одного — буквально одного — прибыльного разработчика моделей, ни одной компании, предоставляющей эти услуги, которая не несла бы многомиллионные или миллиардные убытки. Более того, даже если вычесть расходы на обучение моделей из выручки OpenAI за 2024 год ( данные предоставлены The Information ), OpenAI всё равно потеряла бы 2,2 миллиарда долларов."
*У генеративного ИИ есть серьёзная проблема, которую большинство технологических и деловых СМИ отчаянно избегают обсуждать: все компании убыточны, даже те, кто сам предоставляет модели. Журналисты годами размахивали руками, обсуждая этот вопрос, настаивая, что «эти компании просто разберутся», но так и не объяснили, как именно они это сделают, кроме как «стоимость вывода снизится» или «новые процессоры снизят стоимость вычислений»."
https://futurism.com/more-people-learn-ai-trust
У индустрии высоких технологий есть грязный секрет: чем больше люди узнают об ИИ, тем меньше они ему доверяют
«Люди с низким уровнем грамотности в области искусственного интеллекта чаще воспринимают искусственный интеллект как нечто магическое и испытывают благоговение».
https://futurism.com/companies-hiring-humans-fix-ai
Отчаявшиеся компании теперь нанимают людей, чтобы исправить ошибки ИИ
«Они понимают, что без людей им не обойтись».
"«Есть люди, которые знают, что ИИ несовершенен, а есть те, кто приходит к вам в гневе, потому что им самим не удалось добиться успеха с помощью ИИ», — сказал Карстенс в интервью NBC . «И нужно проявить сочувствие. Не хочется, чтобы они чувствовали себя идиотами. Тогда нужно это исправить».
И дело не только в художниках. Киша Ричардсон, внештатный автор по профессии, начала подрабатывать редактированием текстов, написанных ИИ, несмотря на то, насколько это может деморализовать."
Пользователь отредактировал комментарий 6 сентября 2025, 21:43
"Похоже, компании, настаивавшие на инвестициях в ИИ, постепенно осознают серьёзные проблемы этой технологии. Харш Кумар, индийский разработчик приложений и веб-сайтов, рассказал NBC , что видит всё больше клиентов, которые отказываются от так называемого «вибрационного кодинга» — весьма нелепого термина, обозначающего использование ИИ для написания кода вместо того, чтобы, как вы понимаете, писать его самостоятельно — в пользу реальных разработчиков."
Вибрационного кодинга? Заявка на перевод года