Житель Сан-Франциско загрузил в облако фото гениталий своего ребёнка, чтобы получить удалённую консультацию у врача. Google посчитала снимок детской порнографией, заблокировала аккаунт и пожаловалась детским правозащитникам, в результате чего на мужчину завели расследование, рассказывает New York Times.
Житель Сан-Франциско загрузил в облако фото гениталий своего ребёнка, чтобы получить удалённую консультацию у врача. Google посчитала снимок детской порнографией, заблокировала аккаунт и пожаловалась детским правозащитникам, в результате чего на мужчину завели расследование, рассказывает New York Times.
История произошла в феврале 2021 года, когда приём у врачей был закрыт из-за коронавируса. Обеспокоенный отец заметил опухлость в области гениталий сына и по просьбе медсестры прислал фотографии для предварительного осмотра перед видеоконсультацией. Мальчику прописали антибиотики, которые вылечили инфекцию.
Но через два дня после того, как были сделаны снимки, мужчина получил уведомление о блокировке своей учётной записи Google на том основании, что в ней был обнаружен контент, который нарушает правила пользования сервисами компании и закон.
Дело в том, что Google сканирует загружаемые пользователями фото на предмет «контента с изображением несовершеннолетних в сексуальном контексте» (child sexual abuse material, CSAM) при помощи искусственного интеллекта. Подозрительные снимки дополнительно проверяют модераторы, а при необходимости удаляют и оповещают Национальный центр поиска пропавших и эксплуатируемых детей (National Center for Missing and Exploited Children, NCMEC), который далее обращается в правоохранительные органы.
Представитель Google отметил, что компания сканирует пользовательские фото только при загрузке на Google Фото, что воспринимается как активное согласие на их проверку. Сообщать о потенциально абьюзивных снимках в NCMEC компания обязана по закону. К примеру, за 2021 год она сообщила в организацию о примерно 621,5 тысяче таких случаев, из них 4260 — включая случай калифорнийца и его сына — NCMEC передала на рассмотрение полиции.
Американец в результате лишился доступа к своей почте, контактам, фотографиям и даже телефонному номеру, поскольку пользовался фирменным мобильным сервисом Google Fi. В прошлом декабре полиция начала расследование и оправдала его, но несмотря на это отдавать аккаунт компания отказывается.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.