Отдел новостей 2 марта 2024, 13:42

DocuSign тренирует ИИ на пользовательских документах — и даёт сомнительные гарантии конфиденциальности

Сервис для электронной подписи DocuSign обновил вопросно-ответную страничку на своём сайте. Теперь там говорится, что он может собирать пользовательские данные для обучения фирменных ИИ-моделей.

Оставить комментарий

Сервис для электронной подписи DocuSign обновил вопросно-ответную страничку на своём сайте. Теперь там говорится, что он может собирать пользовательские данные для обучения фирменных ИИ-моделей.

Hahaha all your important legal docs are now being used by DocuSign to train their in-house AI. Fuck this shit.https://t.co/NFZpvPLX7b pic.twitter.com/qcr2RSc7i9
— Theo (@tprstly) March 1, 2024

Главный конкурент PandaDoc обещает использовать данные юзеров только с их согласия и в анонимизированном виде. Из них будет удаляться любая чувствительная информация о компаниях и людях. Обрабатывать их автономно без участия человека, что обеспечит приватность. Для обучения ИИ будут брать данные пользователей продукта Contract Lifecycle Management и отдельных пользователей eSignature.

Компания разрабатывает фирменную программу на базе опенсорсных моделей, которые кастомизирует под свои потребности. Данные пользователей, включая подписываемые контракты, помогут усовершенствовать её. Накануне DocuSign запустил функцию резюмирования договоров на базе генеративного ИИ.

Защитники приватности отмечают, что в FAQ не говорится, как именно компания будет получать согласие пользователей на применение их данных для обучения ИИ-алгоритмов. Отдельный вопрос — как DocuSign хранит их. А утверждение, что обработка происходит без участия человека 100% времени, для них выглядит сомнительно.