Даследчыкі запусцілі праект Poison Fountain, мэта якога — сабатаваць навучанне ШІ-мадэляў за кошт «атручвання» дадзеных, якія збіраюць вэб-сканеры буйных тэхналагічных кампаній.
Даследчыкі запусцілі праект Poison Fountain, мэта якога — сабатаваць навучанне ШІ-мадэляў за кошт «атручвання» дадзеных, якія збіраюць вэб-сканеры буйных тэхналагічных кампаній.
Ініцыятыва заклікае ўладальнікаў сайтаў спецыяльна падсоўваць ШІ-краўлерам наборы дадзеных, здольныя парушыць працу мадэляў і знізіць іх якасць.
Праект стартаваў на мінулым тыдні. Па дадзеных The Register, у ім удзельнічаюць спецыялісты, якія працуюць у буйных амерыканскіх ШІ-кампаніях. Адна з крыніц выдання сцвярджае, што «сітуацыя абвастраецца значна мацней, чым гэта ўсведамляе шырокая публіка».
Аўтары Poison Fountain наўпрост заяўляюць, што лічаць машынны інтэлект пагрозай чалавецтву, спасылаючыся на пазіцыю Джэфры Хінтана — аднаго з заснавальнікаў сучаснай ШІ-індустрыі і яе вядомага крытыка. У адказ на гэтую пагрозу ўдзельнікі праекта, па іх словах, хочуць «наносіць шкоду сістэмам машыннага інтэлекту».
Ідэя заснавана на ўразлівасці, якая ляжыць у аснове сучаснага ШІ-буму: якасць мадэляў наўпрост залежыць ад дадзеных, на якіх яны навучаюцца. Масавы збор інфармацыі з інтэрнэту стаў ключавым фактарам поспеху вялікіх моўных мадэляў, але адначасова выклікаў хвалю спрэчак пра аўтарскае права і законнасць такога скрэйпінгу. Poison Fountain прапануе выкарыстоўваць гэты ж механізм супраць саміх ШІ-сістэм.
Праект распаўсюджвае спасылкі на «атручаныя» датасэты, якія ўладальнікі сайтаў могуць непрыкметна ўбудоўваць у свае старонкі. Па задуме аўтараў, ШІ-сканеры будуць аўтаматычна забіраць гэтыя дадзеныя разам з астатнім кантэнтам. Унутры такіх набораў утрымліваецца код з лагічнымі памылкамі і багамі, якія, паводле слоў удзельнікаў, здольныя пашкодзіць мадэлі пры навучанні і прывесці да дэградацыі іх «кагнітыўных» здольнасцяў.
Аўтары называюць свае дзеянні формай зброі супраць некантраляванага распаўсюджвання ШІ, сцвярджаючы, што адных толькі рэгулятарных мер ужо недастаткова, паколькі тэхналогіі сталі глабальна даступнымі. Пры гэтым застаецца няясным, ці зможа ініцыятыва атрымаць масавае распаўсюджванне і наколькі лёгка ШІ-кампаніі змогуць адфільтроўваць падобныя дадзеныя са сваіх навучальных корпусаў.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.
после того как свои модели обучили на открытых данных, начинают отравливать их, чтобы конкуренты не смогли проследовать по их стопам.
атрутай слоп не сапсуеш)