«Живой костыль»: Meta посадила операторов колл-центра делать звонки вместо своего «революционного» ИИ-агента
Новый персональный ИИ-ассистент Muse от Meta за пару недель после релиза успел возглавить топы скачиваний в США, набрав более 2,5 млн загрузок и подтолкнув капитализацию компании вверх на $200 млрд. Главная фича приложения — умение автономно звонить в заведения, чтобы забронировать стрижку, узнать наличие товара или выбить скидку у интернет-провайдера. Однако выяснилось, что за обещаниями полной автономии скрывается старый добрый человеческий труд.
Новый персональный ИИ-ассистент Muse от Meta за пару недель после релиза успел возглавить топы скачиваний в США, набрав более 2,5 млн загрузок и подтолкнув капитализацию компании вверх на $200 млрд. Главная фича приложения — умение автономно звонить в заведения, чтобы забронировать стрижку, узнать наличие товара или выбить скидку у интернет-провайдера. Однако выяснилось, что за обещаниями полной автономии скрывается старый добрый человеческий труд.
Согласно внутренним документам Meta, попавшим в распоряжение Reuters, компания запустила секретный эксперимент «Human Concierge»: если нейросеть не справлялась или люди на том конце провода просто сбрасывали звонок, слыша робота, задачу незаметно перехватывал живой оператор из подрядного колл-центра.
Эксперимент вызвал скандал внутри Meta. Главное опасение — утечки данных: сотрудники предупредили, что передача функций живым людям полностью перечёркивает приватность, ведь ИИ-агенту доверены пароли, личные данные и финансовая информация. «Я искренне не понимаю, зачем рисковать ради этой функции. Мы в одном баге от утечки конфиденциальных данных сторонним операторам», — написал один из инженеров. Кроме того, выяснилось, что один из операторов-подрядчиков позволил себе расистские высказывания в разговоре.
Вице-президент подразделения Superintelligence Labs, ответственного за новинку, пообещала уволить его, и признала, что тестировать звонки через операторов без предупреждения пользователей было ошибкой. Функцию временно откатили. Тем не менее в руководстве оправдывают тесты математикой: нейросеть успешно доводит звонок до конца лишь в небольшом проценте случаев, тогда как «консьерж» поднимает показатель успеха до 95-98%.
Ситуация напоминает историю десятилетней давности, когда Facebook запускала ассистента «M» в Messenger — позже выяснилось, что около 70% «интеллектуальных» задач на самом деле вручную выполняли люди. Представитель Meta заявил, что функцию вернут только после внедрения всех защитных механизмов и с чётким информированием пользователей.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.
AI - Affordable Indian