Калифорния обязала ИИ предупреждать пользователей, что он не человек
Губернатор Калифорнии Гэвин Ньюсом подписал законопроект SB 243, устанавливающий требования к разработчикам «компаньонов» на основе искусственного интеллекта: пользователи должны получать четкое уведомление, если они общаются не с человеком, а с ИИ.
Закон предписывает, что если «разумный пользователь может ошибочно принять чат-бота за человека», разработчик обязан «предоставить ясное и заметное уведомление», что перед ним искусственный интеллект. Иными словами, любая платформа, создающая эмоционально реалистичных ИИ-собеседников, теперь должна прямо предупреждать об их природе.
С 2026 года закон также обяжет операторов подобных сервисов ежегодно отчитываться перед Офисом по предотвращению самоубийств о мерах безопасности — включая системы выявления и реагирования на случаи суицидальных намерений пользователей. Эти отчеты будут публиковаться в открытом доступе.
«Технологии, такие как чат-боты и социальные сети, могут вдохновлять и обучать, но без реальных ограничителей они способны вводить в заблуждение и подвергать риску наших детей», — заявил Ньюсом. Он подчеркнул, что Калифорния намерена оставаться лидером в области ИИ, но «делать это ответственно — защищая детей на каждом шагу».
Новый закон стал продолжением курса на регулирование ИИ в штате. Ранее в этом месяце Ньюсом подписал закон SB 53 — первый в США масштабный акт о прозрачности ИИ, вызвавший бурную дискуссию в технологическом сообществе и противодействие со стороны OpenAI, Anthropic и других компаний.
Читать на dev.by