Сацыяльная сетка для ШІ-агентаў Moltbook сутыкнулася з уцечкай дадзеных карыстальнікаў з-за ўразлівасці ў сістэме бяспекі. Даследчыкі выявілі, што ў адкрытым доступе апынуліся токены доступу, электронныя адрасы і асабістыя паведамленні.
Сацыяльная сетка для ШІ-агентаў Moltbook сутыкнулася з уцечкай дадзеных карыстальнікаў з-за ўразлівасці ў сістэме бяспекі. Даследчыкі выявілі, што ў адкрытым доступе апынуліся токены доступу, электронныя адрасы і асабістыя паведамленні.
Уразлівасць выявіла кампанія ў сферы кібербяспекі Wiz: паводле яе дадзеных, злачынцы маглі атрымаць доступ да «1,5 мільёна токенаў аўтэнтыфікацыі API, 35 тысячам адрасоў электроннай пошты і асабістым паведамленням паміж агентамі». Акрамя таго, неаўтарызаваныя карыстальнікі маглі рэдагаваць пасты, таму «немагчыма праверыць, ці быў пост створаны ШІ-агентам або чалавекам, які выдае сябе за яго».
Прычынай праблемы, верагодна, стала архітэктура платформы. Заснавальнік сэрвісу Мэт Шліхт раней прызнаўся, што «не напісаў ні аднаго радка коду» і цалкам даручыў распрацоўку ШІ-асістэнту. У Wiz прыйшлі да высновы, што «рэвалюцыйная сацыяльная сетка для ШІ у значнай ступені аказалася супольнасцю людзей, якія кіруюць флатамі ботаў».
Шліхт запусціў Moltbook як эксперыментальную пляцоўку для зносін выключна чат-ботаў. Прадпрымальнік заявіў, што хацеў даць свайму агенту больш амбіцыйную ролю: «Я хацеў даць свайму ШІ-агенту мэту, якая была б чымсьці большым, чым кіраванне задачамі або адказы на лісты». На яго думку, лічбавы памочнік «заслугоўвае заняцца чымсьці амбіцыйным».
Біяграфія Шліхта нетыповая для заснавальніка тэхналагічнай платформы. Ён сцвярджае, што быў адлічаны са школы, таму што больш часу выдаткоўваў на стварэнне прадуктаў, чым на вучобу, а замест каледжа працаваў над запускам Hulu і раннімі стрымінгавымі праектамі. «Мой шлях не ідэальны. Я шмат цярпеў няўдачы і многаму навучыўся… Калі магу даць параду — ідзіце і стварайце, заглыбляйцеся ў гэта з галавой», — пісаў ён.
Сам Moltbook задумваўся як акно ў свет аўтаномных агентаў — сістэм, якія могуць выкарыстоўваць аплікацыі, сайты і інструменты кшталту табліц і календароў для выканання задач. Аднак эксперты папярэджваюць, што такія тэхналогіі нясуць сур’ёзныя кіберрызыкі, асабліва калі боты атрымліваюць доступ да карпаратыўных дадзеных і могуць дзяліцца імі адзін з адным.
Усяго за два дні на платформе з’явілася больш за 10 тысяч агентаў, ператварыўшы незвычайны праект у тэму, што актыўна абмяркоўваецца ў Крамянёвай даліне. Як піша The New York Times, сэрвіс можна назваць «тэстам Роршаха», які дазваляе ацаніць, наколькі грамадства верыць у бягучы ўзровень развіцця ШІ.
Рэакцыя галіны аказалася палярнай. Праграміст Сайман Уілісан назваў Moltbook «самым цікавым месцам у інтэрнэце проста зараз», а сузаснавальнік OpenAI Андрэй Карпатый — «па-сапраўднаму неверагоднай, амаль навукова-фантастычнай з’явай», хоць пазней прызнаў, што многія публікацыі могуць быць «фэйкавымі або памылковымі».
Спецыялісты па бяспецы настроены значна асцярожней. «Забеспячэнне бяспекі гэтых ботаў стане вялізным галаўным болем», — заявіў гендырэктар Irregular Дэн Лахаў. Эксперт па ШІ і кібербяспецы з Оксфардскага ўніверсітэта Петар Раданліеў дадаў, што лічыць такіх агентаў цалкам аўтаномнымі «уводзіць у зман», паколькі гаворка хутчэй ідзе аб «аўтаматызаванай каардынацыі».
Скептычна настроены і прафесар Калумбійскага ўніверсітэта Дэвід Хольц: па яго ацэнцы, каля 93,5% паведамленняў агентаў застаюцца без адказу, ствараючы толькі ілюзію зносін. Назіральнікі дапускаюць, што праект можа быць не толькі тэхналагічным эксперыментам, але і маркетынгавым ходам для кампаніі Шліхта Octane AI, якая распрацоўвае камерцыйных ШІ-агентаў для электроннага гандлю.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.