Эксперты предупредили о небезопасности опенсорсных проектов на базе языковых моделей

Известно, что с момента публичного дебюта ChatGPT на GitHub появилось более 30 тысяч проектов, использующих GPT-3.5, причём они активно интегрируются в самые разные программные решения.

ИБ-специалисты Rezilion проанализировали 50 самых популярных проектов на базе LLM на GitHub. Для оценки использовался инструмент Scorecard от Open Source Security Foundation, который учитывает различные характеристики проектов, включая число уязвимостей, осуществление поддержки и другие.

Исследователи составили «карту», где по оси Y отмечался уровень популярности проектов, а по оси X — уровень безопасности на основе рейтинга Scorecard. Ни один из рассмотренных проектов не набрал больше 6,1 балла из 10 возможных, а средний балл составил 4,6. Это значит, что все самые популярные решения на основе LLM связаны с высоким уровнем риска.

Примечательно, что самый популярный проект Auto-GPT, набравший на GitHub почти 140 тысяч звёзд в местном рейтинге, появился в репозитории меньше трёх месяцев назад и получил рейтинг 3,7 — то есть он является чрезвычайно рискованным. В Rezilion говорят, что для новых проектов характерен экспоненциальный рост популярности, но разработчикам и службам информационной безопасности стоит осознавать риски, связанные с применением подобных решений.

Эксперты отмечают, что невозможно точно предсказать, будет ли эволюционировать и поддерживаться очередной новый проект. Быстро достигнув пика популярности, многие проекты сохраняют низкий уровень безопасности. Когда исследователи оценили соотношение возраста проектов и их рейтинга в Scorecard, выяснилось, что чаще всего встречались разработки возрастом два месяца и рейтингом 4,5-5 баллов из 10.

В Австралии сделали чатбот, который издевается над телефонными мошенниками

По теме

В Австралии сделали чатбот, который издевается над телефонными мошенниками