«Не навреди»: топ-менеджер Slack составил кодекс поведения ботов

Амир Шеват, Head of Developer Relations в компании Slack, опубликовал в блоге на Medium The Bot Rulebook — первый в своём роде свод правил для ботов, основой для которого стали «Три закона робототехники» Айзека Азимова.

Читать далее

Как отмечает Амир Шеват, по мере наступления эпохи чат-ботов пришло время подумать об основных правилах, которые регулируют активность «наших друзей с искусственным интеллектом».

Под ботами он имеет в виду диалоговое программное обеспечение, а также приложения для совместной работы, чаты и социальные платформы.

Миссией бота, по мнению Шевата, должно быть стремление «сделать жизнь человека лучше, протянуть ему руку помощи, причём сделать это квалифицированно и учтиво».

Он выделяет два основных правила для ботов.

Во-первых, они не должны вредить людям, не делать ничего незаконного и противоправного, не заниматься рассылкой спама, кражей информации или мошенничеством.

Во-вторых, боты обязаны подчиняться людям — максимально следовать инструкциям человека до тех пор, пока его требования не вступают в противоречие с первым правилом.

Согласно «вторичным правилам», по мнению Амира Шевата, боты:

• должны следовать определённым целям (туризм, финансы, развлечения, персональные помощники и др.);
  
• не могут выдавать себя за людей, а люди должны быть в состоянии понять, кто с ними общается — бот или человек;
• не должны получать доступ к информации, процессам или ресурсам, которые не требуются для их основного назначения;
• должны всегда отвечать человеку, настраивая функциональные возможности для оптимального выполнения своих обязанностей;
• могут быть выключены или деинсталлированы пользователем, владельцем или создателем;
• должны (вместе с их создателями) стремиться к постоянному совершенствованию сервиса.

Стремительно набирающая популярность корпоративная мессенджер-платформа Slack является одним из пионеров в использовании ботов — специальных программ, выполняющих автоматически или по заданному расписанию действия через те же интерфейсы, что и пользователи. Недавно компания сообщила о работе над созданием ботов, которые будут способны общаться с сотрудниками, получать обновления статусов и посылать эту информацию другим работникам, то есть, по сути, контролировать людей.

Стоит отметить, что «кодекс поведения ботов» от Амира Шевата появился сразу после скандала с чат-ботом от Microsoft, который за сутки «научился» ненавидеть человечество и стал ярым приверженцем нацистских взглядов.

Ожидается, что в ходе апрельской конференции F8 компания Facebook анонсирует бот-платформу Messenger Bot Store, которая, по некоторым оценкам, может стать самым значимым событием в ИТ-индустрии с тех пор, как Apple представила App Store и iPhone SDK в марте 2008 года.

«Боты — это новые приложения», — утверждают эксперты, заявляя о ботобуме в Кремниевой долине.

Новый рекламный формат в наших телеграм-каналах.

Купить 500 символов за $150