Google создала команду для оценки этичности собственных ИИ-исследований

В Google появилась «формальная контролирующая структура», которая будет принимать общие и технические решения касательно применения ИИ компанией. Об этом она сообщила в корпоративном блоге.

Ранее в этом году Google утвердила новый «этический кодекс» в ответ на волну протестов её работников против сотрудничества с Пентагоном по программе Project Maven. Новая структура является воплощением новой политики: теперь решение о соответствии ИИ-разработок нормам этики будут принимать не отдельные программисты или продуктовые группы, а специальное подразделение. В него войдут три группы.

• Команда по ответственным инновациям, которая будет контролировать повседневную деятельность компании и проводить первичную оценку. Она будет состоять из специалистов по исследованию пользователей, социологов, этиков, правоведов, советников по вопросам стратегии и конфиденциальности — как штатных, так и внештатных. Такое многообразие экспертов обеспечит комплексный взгляд на ИИ-технологии с точки зрения различных дисциплин;
• Группа ведущих экспертов из разных направлений Alphabet с технологическими и функциональными компетенциями;
• Совет менеджеров высшего звена, которые будут принимать решения по наиболее сложным и неоднозначным вопросам, в том числе тем, которые затрагивают несколько продуктов и технологий.

По словам Google, команда уже провела более 100 оценок соглашений и продуктов: например, внесла вклад в решение компании отложить продажу технологии распознавания лиц. В дальнейшем Google добавит внешнюю консультативную группу, включающую экспертов по различным дисциплинам.