ЕС ввел полный запрет ИИ с «неприемлемым риском»

Согласно новым правилам, системы ИИ, представляющие неприемлемый риск, теперь запрещены в ЕС. Закон об ИИ регулирует использование таких систем в различных сферах, от потребительских приложений до физических сред. Документ предусматривает четыре уровня риска: минимальный, ограниченный, высокий и неприемлемый, причем последний подлежит полному запрету.

К неприемлемым видам ИИ относятся:

• ИИ для создания социального рейтинга (создание профилей риска на основе поведения);
• ИИ, манипулирующий решениями людей подсознательно или обманным путем;
• ИИ, эксплуатирующий уязвимости, такие как возраст, инвалидность или социально-экономический статус;
• ИИ, пытающийся предсказывать преступления на основе внешности;
• ИИ, использующий биометрию для определения характеристик, таких как сексуальная ориентация;
• ИИ, собирающий биометрические данные в реальном времени в общественных местах для правоохранительных целей;
• ИИ, пытающийся распознать эмоции людей на работе или в школе;
• ИИ, создающий или расширяющий базы данных распознавания лиц путем сбора изображений из интернета или с камер видеонаблюдения.

Компании, использующие запрещенные приложения ИИ в ЕС, будут подвергаться штрафам в размере до 35 миллионов евро или 7% от их годовой выручки, в зависимости от того, что больше. Хотя формально требования вступили в силу 2 февраля, штрафы начнут действовать позднее, когда будут определены компетентные органы и процедуры.

Закон предусматривает некоторые исключения. Например, правоохранительные органы могут использовать системы сбора биометрических данных в общественных местах для проведения целенаправленного поиска, например, жертвы похищения, но для этого требуется разрешение от соответствующих органов. ИИ, определяющий эмоции, также может быть разрешен в медицинских или терапевтических целях.

Более ста международных компаний, включая Amazon, Google и OpenAI, подписали добровольный пакт ЕС об ИИ в сентябре прошлого года, обязавшись соблюдать принципы закона до его вступления в силу. Однако некоторые крупные технологические компании, такие как Meta и Apple, не подписали пакт.