«Никакого оружия и слежки». В Google создали новые принципы разработки искусственного интеллекта

Согласно ряду новых «ИИ-принципов», опубликованных Google, компания не допустит использования ПО на основе искусственного интеллекта в разработке оружия и технологий незаконного слежения, сообщает Reuters.

Составленные комиссией из 9 сотрудников Google ИИ-правила в компании рассматривают как эталон, который может применяться всеми разработчиками ПО, хотя подобные руководства уже существуют у других компаний (например, Microsoft).

В новых принципах Google указано, что компания не будет участвовать в проектах, которые применяют ИИ с целью причинить физический вред, осуществлять видеонаблюдение, нарушая международные нормы прав человека, или представляют более значительную «материальную угрозу», чем пользу.

Также Google призвала сотрудников и клиентов, разрабатывающих ИИ, «избежать несправедливого ущемления людей», особенно на основе их расы, пола, ориентации, политических и религиозных взглядов, Компания также советует разработчикам не запускать ИИ-проекты, которые могут нанести серьёзный ущерб, если попадут в руки хакеров — из-за ненадёжности существующих механизмов кибербезопасности.

Генеральный директор компании Сундар Пичаи отметил, что Google сохраняет за собой право блокировать продукты, нарушающие эти принципы. В компании признали, что придерживаться правил может быть непросто, так как компания не способна отследить каждое применение своих инструментов, часть которых можно скачать бесплатно и использовать в личных целях.

Ограничение сотрудничества с военными может помочь руководству Google разрядить напряжение, вызванное месяцами протестов тысяч её работников против сотрудничества компании с вооружёнными силами США в рамках проекта по распознаванию объектов на видео с дронов. Решение вызвало недовольство Конгресса, однако Google продолжит заключать контракты с правительством в сферах кибербезопасности, комплектования армии, а также проведении поисковых и спасательных операций, сообщил Пичаи.