Президент Signal Мередит Уиттакер выразила серьезную обеспокоенность по поводу рисков для конфиденциальности пользователей, связанных с использованием агентов ИИ.
Президент Signal Мередит Уиттакер выразила серьезную обеспокоенность по поводу рисков для конфиденциальности пользователей, связанных с использованием агентов ИИ.
На конференции SXSW в Остине Уиттакер объяснила, что агенты ИИ позиционируются как способ сделать пользовательский опыт более комфортным. При этом они берут на себя различные онлайн-задачи, такие как поиск концертов, бронирование билетов, планирование мероприятий в календаре и отправка сообщений друзьям. Она задалась вопросом, не приведет ли это к тому, что «наш мозг окажется в банке, потому что эта штука делает все, и нам не нужно к этому прикасаться».
Для выполнения этих задач агенту ИИ потребуется доступ к различным данным, которые пользователи могут захотеть сохранить в секрете. Например, доступ к веб-браузеру и возможность управления им; информация о кредитной карте для оплаты билетов; доступ к календарю, чтобы видеть все запланированные мероприятия и встречи; доступ к приложениям для обмена сообщениями, таким как Signal, для отправки сообщений друзьям.
Уиттакер подчеркнула, что агенту ИИ потребуется «доступ ко всей нашей системе с чем-то, что выглядит как root-права, доступ к каждой из этих баз данных, вероятно, в открытом виде, потому что нет модели для шифрования». Она также отметила, что достаточно мощная модель ИИ, вероятно, будет обрабатывать данные вне устройства, отправляя их на облачный сервер и обратно.
«Существует серьезная проблема с безопасностью и конфиденциальностью, которая преследует эту шумиху вокруг агентов, и это в конечном итоге угрожает сломать барьер между уровнем приложений и уровнем ОС, объединяя все эти отдельные сервисы, смешивая их данные и делая такие вещи, как подрыв конфиденциальности ваших сообщений Signal», — заявила Уиттакер.
Выводы Уиттакер перекликаются с опасениями других экспертов в области ИИ. Иошуа Бенджио, канадский исследователь, которого считают одним из крестных отцов ИИ, также предостерег от рисков, связанных с агентами ИИ, отметив, что «все катастрофические сценарии с AGI или сверхинтеллектом происходят, если у нас есть агенты». Он подчеркнул необходимость признания рисков и осуществления технологических инвестиций для обеспечения безопасности и надежности ИИ.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.