«Жывая мыліца»: Meta пасадзіла аператараў кол-цэнтра рабіць званкі замест свайго «рэвалюцыйнага» ШІ-агента
Новы персанальны ШІ-асістэнт Muse ад Meta за пару тыдняў пасля рэлізу паспеў узначаліць топы спампоўкі ў ЗША, набраўшы больш за 2,5 млн спамповак і падштурхнуўшы капіталізацыю кампаніі ўгору на $200 млрд. Галоўная фіча дадатку — уменне аўтаномна тэлефанаваць ва ўстановы, каб забраніраваць стрыжку, даведацца пра наяўнасць тавару ці выбіць зніжку ў інтэрнэт-правайдара. Аднак высветлілася, што за абяцаннямі поўнай аўтаноміі хаваецца стары добры чалавечы труд.
Новы персанальны ШІ-асістэнт Muse ад Meta за пару тыдняў пасля рэлізу паспеў узначаліць топы спампоўкі ў ЗША, набраўшы больш за 2,5 млн спамповак і падштурхнуўшы капіталізацыю кампаніі ўгору на $200 млрд. Галоўная фіча дадатку — уменне аўтаномна тэлефанаваць ва ўстановы, каб забраніраваць стрыжку, даведацца пра наяўнасць тавару ці выбіць зніжку ў інтэрнэт-правайдара. Аднак высветлілася, што за абяцаннямі поўнай аўтаноміі хаваецца стары добры чалавечы труд.
Паводле ўнутраных дакументаў Meta, якія трапілі ў распараджэнне Reuters, кампанія запусціла сакрэтны эксперымент «Human Concierge»: калі нейрасетка не спраўлялася або людзі на тым канцы проста скідвалі званок, пачуўшы робата, задачу незаўважна перахопліваў жывы аператар з падрадчыцкага кол-цэнтра.
Эксперымент выклікаў скандал унутры Meta. Галоўнае асцярога — уцечкі дадзеных: супрацоўнікі папярэдзілі, што перадача функцый жывым людзям цалкам перакрэслівае прыватнасць, бо ШІ-агенту давераны паролі, асабістыя дадзеныя і фінансавая інфармацыя. «Я шчыра не разумею, навошта рызыкаваць дзеля гэтай функцыі. Мы ў адным багу ад выцекі канфідэнцыйных дадзеных старонніх аператараў», — напісаў адзін з інжынераў. Акрамя таго, высветлілася, што адзін з аператараў-падрадчыкаў дазволіў сабе расісцкія выказванні ў размове.
Віцэ-прэзідэнт падраздзялення Superintelligence Labs, адказнага за навінку, абяцала звольніць яго і прызнала, што тэставаць выклікі праз аператараў без папярэджання карыстальнікаў было памылкай. Функцыю часова адкацілі. Тым не менш у кіраўніцтве апраўдваюць тэсты матэматыкай: нейрасетка паспяхова канчае званок толькі ў невялікім працэнце выпадкаў, тады як «кансьержы» падымаюць паказчык поспеху да 95-98%.
Сітуацыя нагадвае гісторыю дзесяцігадовай даўніны, калі Facebook запускала асістэнта «M» у Messenger — пазней высветлілася, што каля 70% «інтэлектуальных» задач насамрэч уручную выконвалі людзі. Прадстаўнік Meta заявіў, што функцыю вернуць толькі пасля ўкаранення ўсіх ахоўных механізмаў і з выразным інфармаваннем карыстальнікаў.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.
AI - Affordable Indian