Наследуя традицию «Трёх законов робототехники» Айзека Азимова, гендиректор Microsoft Сатья Наделла сформулировал десять принципов грядущей революции в области искусственного интеллекта, пишет GeekWire со ссылкой на статью Наделлы в издании Slate.
Обращение Наделлы к сути философских основ исследований в области искусственного интеллекта (ИИ) — ещё один аргумент, свидетельствующий о небывалом интересе корпорации к этой теме. СМИ сравнивают его с поворотом Microsoft во главе со своим основателем Биллом Гейтсом к интернету в середине 1990-х годов.
В опубликованном вчера эссе нынешний CEO Microsoft упоминает не только манифест Азимова, но и меморандум Гейтса 1995 года «Приливная волна интернета».
Выступление Наделлы также подливает огонь в дискуссию о том, будет ли ИИ представлять опасность для человечества в долгосрочной перспективе. Только на этой неделе, к примеру, британский физик Стивен Хокинг предупредил о росте роли ИИ в гонке вооружений. Белый дом проводит ряд общенациональных семинаров в США, посвященных потенциальной опасности интеллектуальных машин.
По мнению Наделлы, люди и машины могут работать вместе и сообща решать самые серьёзные проблемы общества, включая болезни, необразованность и бедность.
«Это, однако, требует смелого и амбициозного подхода, который выходит за рамки всего того, чего можно достигнуть исключительно за счёт усовершенствования существующей технологии, — пишет он. — Настало время для более тесной координации усилий и сотрудничества в области искусственного интеллекта».
Вот 10 принципов развития искусственного интеллекта, предложенных Сатьей Наделлой.
- Разработка ИИ должна осуществляться ради помощи человечеству.
- ИИ должен быть прозрачным.
- ИИ должен максимально увеличить эффективность, не посягая на достоинство людей.
- ИИ должен быть рассчитан на неприкосновенность частной жизни.
- ИИ нуждается в алгоритмической подотчётности, чтобы люди могли предотвратить нанесение непреднамеренного вреда.
- ИИ должен защищать от предвзятости.
- Критически важно, чтобы у людей было сопереживание.
- Критически важно, чтобы люди были образованными.
- Потребность в человеческом творчестве не пропадёт.
- В конечном счёте именно человек должен нести ответственность за диагноз или решение, сгенерированное компьютером.
По мнению Сатьи Наделлы, эксперты должны отслеживать воздействие искусственного интеллекта на общество, как это происходит, например, в рамках исследования Стенфордского университета и Microsoft Research One Hundred Year Study.
Гендиректор Microsoft признаёт, что систему взглядов относительно исследований в области ИИ необходимо сформировать «с прицелом на десятилетия вперед», но «правильный фундамент важно заложить прямо сейчас»:
«Самый важный следующий шаг — договориться об этической и эмпатической основах для разработки искусственного интеллекта».
Также читайте: «Не навреди»: топ-менеджер Slack составил кодекс поведения ботов
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.