Эксперты папярэдзілі пра небяспечнасць оўпэнсорсных праектаў на базе моўных мадэляў

Вядома, што ад моманту публічнага дэбюту ChatGPT на GitHub з’явілася больш за 30 тысяч праектаў, якія выкарыстоўваюць GPT-3.5, прычым яны актыўна інтэгруюцца ў самыя розныя праграмныя рашэнні.

ІБ-спецыялісты Rezilion прааналізавалі 50 найпапулярнейшых праектаў на базе LLM на GitHub. Для ацэнкі выкарыстоўваўся інструмент Scorecard ад Open Source Security Foundation, які ўлічвае розныя характарыстыкі праектаў, уключаючы лік уразлівасцей, ажыццяўленне падтрымкі ды іншыя.

Даследчыкі склалі «карту», дзе па восі Y адзначаўся ўзровень папулярнасці праектаў, а па восі X — узровень бяспечнасці на аснове рэйтынгу Scorecard. Ніводны з разгледжаных праектаў не набраў больш за 6,1 бала з 10 магчымых, а сярэдні бал склаў 4,6. Гэта значыць, што ўсе найпапулярнейшыя рашэнні на аснове LLM звязаныя з высокім узроўнем рызыкі.

Характэрна, што найпапулярнейшы праект Auto-GPT, які набраў на GitHub амаль 140 тысяч зорак у мясцовым рэйтынгу, з’явіўся ў рэпазіторыі менш як тры месяцы таму і атрымаў рэйтынг 3,7 — то-бок ён з’яўляецца надзвычай рызыкоўным. У Rezilion кажуць, што для новых праектаў характэрны экспанентны рост папулярнасці, але распрацоўшчыкам і службам інфармацыйнай бяспекі варта ўсведамляць рызыкі, звязаныя з ужываннем падобных рашэнняў.

Эксперты адзначаюць, што немагчыма дакладна прадказаць, ці будзе эвалюцыянаваць і падтрымлівацца чарговы новы праект. Хутка дасягнуўшы піку папулярнасці, многія праекты захоўваюць нізкі ўзровень бяспекі. Калі даследчыкі ацанілі суадносіны веку праектаў і іх рэйтынгу ў Scorecard, высветлілася, што часцей за ўсё сустракаліся распрацоўкі векам два месяцы і рэйтынгам 4,5-5 балаў з 10.

У Аўстраліі зрабілі чатбота, які здзекуецца з тэлефонных ашуканцаў

Па тэме

У Аўстраліі зрабілі чатбота, які здзекуецца з тэлефонных ашуканцаў