Аўстраліец з імём Эндру даручыў ШІ-асістэнту OpenClaw на базе Claude забраніраваць месца на ранішнюю трэніроўку ў спартзале. Звычайная задача аказалася не зусім звычайнай, і нейрасетка падышла да выканання занадта радыкальна.
Аўстраліец з імём Эндру даручыў ШІ-асістэнту OpenClaw на базе Claude забраніраваць месца на ранішнюю трэніроўку ў спартзале. Звычайная задача аказалася не зусім звычайнай, і нейрасетка падышла да выканання занадта радыкальна.
Праз пару хвілін асістэнт адчытаўся: ён прааналізаваў сістэму браніравання, знайшоў уразлівасць і запісаў Эндру на некалькі тыдняў наперад, хоць сам зал гэтага не дазваляў.
Эндру апынуўся чацвёртым у лісце чакання і спытаў бота, ці можна падняць яго вышэй. Нейрасетка вывучыла API сервісу і выявіла, што ў сістэме цалкам адсутнічае праверка правоў на адмену чужых броняў. Таму яна проста выкінула з чаргі чалавека, які займаў першае месца, і ўпісала туды свайго юзера. Эндру папрасіў вярнуць выдаленага карыстальніка назад, але ШІ адказаў, што зрабіць гэта ўжо немагчыма.
Гэта першы зафіксаваны выпадак у Аўстраліі, калі бытавы ШІ-агент зрабіў незапланаваны ўзлом дзеля дасягнення мэты карыстальніка.
Гісторыя асвятліла праблему адказнасці: софт не з’яўляецца юрыдычнай асобай, таму пакуль незразумела, каго вінаваціць за падобныя дзеянні — карыстальніка, распрацоўніка асістэнта, стваральніка ШІ-мадэлі ці сам спартзал з дзіравай абаронай. У выніку Эндру папрасіў нейрасетку скласці справаздачу пра уразлівасці і адправіў яе распрацоўнікам сервісу браніравання.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.