Николай Чикишев 5 декабря 2023, 14:10

Gmail получил ИИ-фильтр для обнаружения спама

У почтового сервиса появилось обновление спам-фильтра, компания называет его «одним из крупнейших обновлений системы защиты за последние годы».

Оставить комментарий

Gmail получил ИИ-фильтр для обнаружения спама

У почтового сервиса появилось обновление спам-фильтра, компания называет его «одним из крупнейших обновлений системы защиты за последние годы».

В почтовую службу интегрирована новая система классификации текстов Resilient & Efficient Text Vectorizer (RETVec). Она определяет спам-сообщения, в том числе электронные письма с большим количеством специальных символов, смайлов, опечаток и других элементов, которые прежде были трудно различимы для фильтров.

Сравнение эффективности нового алгоритма RETVec и базового текстового векторизатора Gmail. Источник: Google.

Новый алгоритм эффективно определяет гомоглифы, то есть графически сильно похожие друг на друга знаки, которые различаются по значению. Алгоритм обучался с помощью продвинутого кодировщика, способного кодировать любые символы и слова в формате UTF-8. Теперь он может работать на более чем ста языках.

Также алгоритм построен на базе ИИ-фреймворка TensorFlow и в процессе работы определяет визуальное «сходство» для определения значения слов, а не символы, из которых они состоят. По словам разработчиков, уровень обнаружения спама повысился на 38%, а количество ложных срабатываний уменьшилось на 19,4%.