Google заблокировала аккаунт американца и нажаловалась в полицию за фото гениталий сына — он хотел показать снимок врачу

История произошла в феврале 2021 года, когда приём у врачей был закрыт из-за коронавируса. Обеспокоенный отец заметил опухлость в области гениталий сына и по просьбе медсестры прислал фотографии для предварительного осмотра перед видеоконсультацией. Мальчику прописали антибиотики, которые вылечили инфекцию.

Но через два дня после того, как были сделаны снимки, мужчина получил уведомление о блокировке своей учётной записи Google на том основании, что в ней был обнаружен контент, который нарушает правила пользования сервисами компании и закон.

Дело в том, что Google сканирует загружаемые пользователями фото на предмет «контента с изображением несовершеннолетних в сексуальном контексте» (child sexual abuse material, CSAM) при помощи искусственного интеллекта. Подозрительные снимки дополнительно проверяют модераторы, а при необходимости удаляют и оповещают Национальный центр поиска пропавших и эксплуатируемых детей (National Center for Missing and Exploited Children, NCMEC), который далее обращается в правоохранительные органы.

Представитель Google отметил, что компания сканирует пользовательские фото только при загрузке на Google Фото, что воспринимается как активное согласие на их проверку. Сообщать о потенциально абьюзивных снимках в NCMEC компания обязана по закону. К примеру, за 2021 год она сообщила в организацию о примерно 621,5 тысяче таких случаев, из них 4260 — включая случай калифорнийца и его сына — NCMEC передала на рассмотрение полиции.

Американец в результате лишился доступа к своей почте, контактам, фотографиям и даже телефонному номеру, поскольку пользовался фирменным мобильным сервисом Google Fi. В прошлом декабре полиция начала расследование и оправдала его, но несмотря на это отдавать аккаунт компания отказывается.