ИИ-компаниям будет непросто превратить персональных агентов в массовый продукт: большинство пользователей пока не готовы давать им доступ к чувствительным данным и повседневным задачам.
ИИ-компаниям будет непросто превратить персональных агентов в массовый продукт: большинство пользователей пока не готовы давать им доступ к чувствительным данным и повседневным задачам.
Согласно исследованию Thales, только 13% респондентов готовы позволить ИИ-агенту читать свою электронную почту. Доверить ему переводы денег между банковскими счетами согласились бы лишь 7%.
Это становится проблемой для компаний, которые делают ставку на персональных ИИ-агентов. Meta, OpenAI и Microsoft рассчитывают, что такие системы смогут самостоятельно бронировать билеты, делать покупки, работать с почтой и выполнять другие задачи от имени пользователя. Для этого им требуется доступ к аккаунтам, платежным данным и другим личным сведениям.
Показательный пример — персональный агент Meta Muse. После запуска приложение обогнало ChatGPT в американском App Store и набрало более 3,4 миллиона загрузок. Однако для полноценной работы агенту приходится предоставлять доступ к различным сервисам и персональным данным.
Главным барьером для распространения таких продуктов остается доверие. Пользователю необходимо разрешить агенту не только читать информацию, но и совершать действия от его имени, а ошибки в таких сценариях потенциально могут иметь более серьезные последствия, чем обычная неверная реплика чат-бота.
Инвестор OpenAI Винод Хосла считает, что именно доверие, а не объем накопленных данных, определит победителей на рынке ИИ-агентов. «Вы доверяете Facebook? Вы бы дали им данные своей кредитной карты?» — рассуждает он.
Основатель персонального ИИ-агента Instinct Ноа Шинн также отмечает, что доверие формируется постепенно: «Наши данные показывают, что на самом деле требуется несколько недель, чтобы выстроить доверие». Авторы исследования Thales также отмечают, что пользователи пока готовы поручать ИИ преимущественно низкорисковые задачи и значительно осторожнее относятся к доступу к почте и финансам.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.