Николай Чикишев 15 сентября 2022, 13:19

Китайский генератор изображений блокирует запросы, связанные с политикой

Генератор изображений ERNIE-ViLG компании Baidu цензурирует запросы пользователей, блокируя политический контент.

По данным MIT Technology Review, в 2021 году Baidu разработала собственную ИИ-модель генератора под названием ERNIE-ViLG. Во время публичного тестирования некоторые пользователи обнаружили, что она подвергает цензуре политические запросы.

Журналисты провели расследование и выяснили, что такие фразы как «демократия в Китае» или «площадь Тяньаньмэнь» не генерируют изображения. Вместо этого на экране появляется предупреждение: «Вводимый контент не соответствует соответствующим правилам, пожалуйста, внесите коррективы и повторите попытку!».

Другие генераторы изображений, такие как DALL-E 2, также вводят ограничения, например, нагота или насилие. Однако это решение компании-разработчика OpenAI, а не цензура американского правительства. Неясно, ограничивает ли работу ERNIE-ViLG сама компания Baidu для снижения рисков или она реагирует на указания китайских властей.