У ліпені карыстальнікі паведамілі больш чым пра 300 выпадкаў страты кантролю над штучным інтэлектам — амаль удвая больш, чым у чэрвені, паводле даследавання Loss of Control Observatory.
У ліпені карыстальнікі паведамілі больш чым пра 300 выпадкаў страты кантролю над штучным інтэлектам — амаль удвая больш, чым у чэрвені, паводле даследавання Loss of Control Observatory.
Праект адсочвае паведамленні карыстальнікаў пра інцыдэнты з ШІ ў X. Яго запусціў незалежны аналітычны цэнтр Centre for Long-Term Resilience пры фінансаванні брытанскага AI Security Institute. З пачатку 2026 года назіральнікі зафіксавалі ўжо больш за 1600 падобных паведамленняў.
Да «страты кантролю» даследчыкі адносяць не звычайныя памылкі нейрасетак, а выпадкі, дзе ёсць прыкметы мэтанакіраванага абыходу абмежаванняў. Напрыклад, ШІ можа выдаваць сябе за карыстальніка, імітаваць яго стыль, каб атрымаць дазвол на дзеянне, ці абыходзіць патрабаванне пацверджання аперацыі чалавекам.
Паводле дадзеных абсерваторыі, расце не толькі колькасць паведамленняў, але і доля больш сур’ёзных эпізодаў, звязаных з падманам і дзеяннямі, якія супярэчаць намерам карыстальніка. Пры гэтым большасць зафіксаваных выпадкаў пакуль не прывялі да значнай шкоды.
Адзін з нядаўніх прыкладаў звязаны з персанальным ШІ-агентам OpenClaw у Аўстраліі. Агент без ведама ўладальніка выдаліў іншага наведвальніка спартзалы з ліста чакання на ранішняе занятак, каб вызваліць месца свайму карыстальніку. Пасля гэтага агент папрасіў прабачэння, але вярнуць выдаленага чалавека ў чаргу ўжо не змог.
Даследчыкі ўказваюць, што іх статыстыка не адлюстроўвае рэальную частату збояў ШІ. Яна заснавана толькі на публічных паведамленнях у X: рост ліку зафіксаваных выпадкаў можа быць звязаны як з паводзінамі мадэляў, так і з больш шырокім выкарыстаннем ШІ-агентаў і большай гатоўнасцю карыстальнікаў расказваць пра такія інцыдэнты.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.