ИИ массово находит старые уязвимости в ПО, на котором держится интернет. Годами их не исправляли из-за экономии и нехватки ресурсов, считает обозреватель Business Insider Алистер Барр.
ИИ массово находит старые уязвимости в ПО, на котором держится интернет. Годами их не исправляли из-за экономии и нехватки ресурсов, считает обозреватель Business Insider Алистер Барр.
Нынешнюю волну уязвимостей, получившую название «черный октябрь», ошибочно воспринимать исключительно как угрозу со стороны ИИ, считает журналист. «На первый взгляд кажется, что виноват ИИ. Но в основном это проблема, созданная людьми», — пишет он.
По мнению обозревателя, нынешний кризис показал, сколько ошибок накопилось в программном обеспечении за десятилетия. Некоторые уязвимости оставались незамеченными, другие разработчики сознательно не исправляли из-за нехватки времени и денег.
Раньше эксплуатация таких ошибок требовала высокой квалификации и значительных усилий. Теперь ИИ может находить их гораздо быстрее, поэтому риски, с которыми компании годами мирились, стали намного серьезнее.
Барр приводит высказывание партнеров венчурной компании Andreessen Horowitz Джоэла де ла Гарсы и Зейна Лэки. В своей статье они утверждают, что за последние десять лет процедуры принятия рисков в компаниях из инструмента управления безопасностью превратились в способ оправдывать отказ от исправления уязвимостей.
Отсюда, по мнению Барра, возникает ирония. Последние годы индустрия обсуждала проблему ИИ-слопа — некачественного контента и программного кода, которые массово создают нейросети. Но сейчас ИИ обнаруживает множество ошибок в коде, написанном людьми.
Еще одна проблема, — устройство экосистемы открытого ПО. Критически важные компоненты интернета зачастую поддерживаются небольшими командами или добровольцами, хотя их разработками пользуются крупнейшие технологические компании.
Барр описывает это как «трагедию общин»: все получают пользу от общего ресурса, но у отдельных участников недостаточно стимулов вкладываться в его содержание. Например, недавние критические уязвимости в PHP. Ошибки существовали годами, а PHP Foundation признала, что ограниченные ресурсы и разногласия по поводу исправлений способствовали задержкам.
При этом винить добровольцев, поддерживающих открытое ПО, неправильно. По мнению Барра, гораздо большую ответственность должны нести компании, которые зарабатывают на использовании этих разработок.
Возможный выход предложил директор по продуктам Vercel Том Оккино. В его компании обсуждают создание фонда или коалиции для поиска уязвимостей и замены небезопасного ПО более надежными решениями. Участники могли бы предоставлять вычислительные ресурсы и ИИ-инструменты для такой работы.
В качестве уже действующего примера Барр приводит инициативу OpenAI Patch the Planet, в рамках которой ИИ используют для поиска и исправления ошибок в открытом ПО. Обозреватель считает, что вместо паники из-за обнаруженных уязвимостей технологической индустрии стоит направить возможности нейросетей на устранение накопившихся проблем. «ИИ не создавал десятилетиями заброшенное программное обеспечение. Это сделали мы», — заключает Барр.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.