Сотрудники OpenAI и Google добиваются права свободно говорить о проблемах в компаниях

У подписантов 4 требования. Их суть сводится к тому, чтобы компании не навязывали договоры, которые запрещают критику по поводу рисков, связанных с ИИ, и не мстили за неё — например, шантажом. Компании наоборот должны поддерживать культуру свободной критики и позволять открыто говорить о таких опасениях при условии сохранения коммерческой тайны. Также авторы письма хотят добиться внедрения анонимной процедуры, с помощью которой сотрудники ИИ-компаний смогут привлекать внимание советов директоров, регуляторов и независимых организаций к вопросам, касающимся рисков ИИ.

Риски, о которых говорят подписанты, — это распространение дезинформации, углубление социального неравенства, потеря контроля над ИИ-системами вплоть до уничтожения ими человечества при отсутствии должного регулирования. Также они видят проблему в том, что разработчиков не обязывают делиться информацией о возможностях и ограничениях их систем с властями, а по собственной воле они делать этого не станут.