Support us

Исследование: голосовые помощники способны выполнять неразличимые человеком команды

2 комментария
Исследование: голосовые помощники способны выполнять неразличимые человеком команды

Главные голосовые помощники можно заставить выполнять тайные команды, которые не слышны человеку, сообщает VentureBeat со ссылкой на публикацию The New York Times.

Читать далее

Фото: NDTV Gadgets

Такие команды можно спрятать в музыку, видеоролики или даже белый шум, при проигрывании которого около голосового помощника последний начнёт выполнение скрытой задачи.

К примеру, таким образом учёные смогли набирать телефонные номера. Запускать сайты, делать покупки и получать доступ к аксессуарам умного дома — например, дверным замкам. В некоторых случаях голосовые помощники удавалось проинструктировать отправлять текстовые сообщения и делать фото. При этом команды передавались с расстояния 8 метров, через открытое окно здания.

Наконец, усилить атаку можно, удалённо отключив звук помощника — чтобы его пользователь не заподозрил неладное, услышав ответы.

По информации The Times, к 2021 году число телефонов и колонок с голосовыми помощниками превысит количество людей, поэтому последствия такого рода недоработок могут быть очень массовыми и заметными. При этом производители ключевых устройств отметили, что в курсе проблемы — и уже предприняли шаги по её устранению.

Читайте также
ИИ-боты подсовывают пользователям товары подороже, если считают их богатыми — даже когда те просят найти самое дешёвое
ИИ-боты подсовывают пользователям товары подороже, если считают их богатыми — даже когда те просят найти самое дешёвое
ИИ-боты подсовывают пользователям товары подороже, если считают их богатыми — даже когда те просят найти самое дешёвое
ИИ-модели испытывают «боль» — и готовы навредить человеку, чтобы её прекратить
ИИ-модели испытывают «боль» — и готовы навредить человеку, чтобы её прекратить
ИИ-модели испытывают «боль» — и готовы навредить человеку, чтобы её прекратить
Apple представила iOS 27 с новой Siri AI
Apple представила iOS 27 с новой Siri AI
Apple представила iOS 27 с новой Siri AI
Claude Code придумали 20 человек: как устроена лаборатория новых продуктов Anthropic
Claude Code придумали 20 человек: как устроена лаборатория новых продуктов Anthropic
Claude Code придумали 20 человек: как устроена лаборатория новых продуктов Anthropic

Хотите сообщить важную новость? Свяжитесь с редакцией через страницу контактов

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.