Николай Чикишев 3 февраля 2025, 12:04

ЕС ввел полный запрет ИИ с «неприемлемым риском»

Европейский Союз начал применять первые требования в рамках Закона об искусственном интеллекте (AI Act), вводя запрет на использование систем ИИ, представляющих «неприемлемый риск».

2 комментария

ЕС ввел полный запрет ИИ с «неприемлемым риском»

Европейский Союз начал применять первые требования в рамках Закона об искусственном интеллекте (AI Act), вводя запрет на использование систем ИИ, представляющих «неприемлемый риск».

Согласно новым правилам, системы ИИ, представляющие неприемлемый риск, теперь запрещены в ЕС. Закон об ИИ регулирует использование таких систем в различных сферах, от потребительских приложений до физических сред. Документ предусматривает четыре уровня риска: минимальный, ограниченный, высокий и неприемлемый, причем последний подлежит полному запрету.

К неприемлемым видам ИИ относятся:

ИИ для создания социального рейтинга (создание профилей риска на основе поведения);
ИИ, манипулирующий решениями людей подсознательно или обманным путем;
ИИ, эксплуатирующий уязвимости, такие как возраст, инвалидность или социально-экономический статус;
ИИ, пытающийся предсказывать преступления на основе внешности;
ИИ, использующий биометрию для определения характеристик, таких как сексуальная ориентация;
ИИ, собирающий биометрические данные в реальном времени в общественных местах для правоохранительных целей;
ИИ, пытающийся распознать эмоции людей на работе или в школе;
ИИ, создающий или расширяющий базы данных распознавания лиц путем сбора изображений из интернета или с камер видеонаблюдения.

Компании, использующие запрещенные приложения ИИ в ЕС, будут подвергаться штрафам в размере до 35 миллионов евро или 7% от их годовой выручки, в зависимости от того, что больше. Хотя формально требования вступили в силу 2 февраля, штрафы начнут действовать позднее, когда будут определены компетентные органы и процедуры.

Закон предусматривает некоторые исключения. Например, правоохранительные органы могут использовать системы сбора биометрических данных в общественных местах для проведения целенаправленного поиска, например, жертвы похищения, но для этого требуется разрешение от соответствующих органов. ИИ, определяющий эмоции, также может быть разрешен в медицинских или терапевтических целях.

Более ста международных компаний, включая Amazon, Google и OpenAI, подписали добровольный пакт ЕС об ИИ в сентябре прошлого года, обязавшись соблюдать принципы закона до его вступления в силу. Однако некоторые крупные технологические компании, такие как Meta и Apple, не подписали пакт.