Китайский генератор изображений блокирует запросы, связанные с политикой

По данным MIT Technology Review, в 2021 году Baidu разработала собственную ИИ-модель генератора под названием ERNIE-ViLG. Во время публичного тестирования некоторые пользователи обнаружили, что она подвергает цензуре политические запросы.

Журналисты провели расследование и выяснили, что такие фразы как «демократия в Китае» или «площадь Тяньаньмэнь» не генерируют изображения. Вместо этого на экране появляется предупреждение: «Вводимый контент не соответствует соответствующим правилам, пожалуйста, внесите коррективы и повторите попытку!».

Другие генераторы изображений, такие как DALL-E 2, также вводят ограничения, например, нагота или насилие. Однако это решение компании-разработчика OpenAI, а не цензура американского правительства. Неясно, ограничивает ли работу ERNIE-ViLG сама компания Baidu для снижения рисков или она реагирует на указания китайских властей.