Трое бывших сотрудников OpenAI вчера выпустили открытое письмо, где заявили, что их внезапно уволили на прошлой неделе. По их мнению, так компания просто загубит открытую культуру и запугает остальных сотрудников.
Трое бывших сотрудников OpenAI вчера выпустили открытое письмо, где заявили, что их внезапно уволили на прошлой неделе. По их мнению, так компания просто загубит открытую культуру и запугает остальных сотрудников.
Письмо под заголовком «OpenAI не может сделать ИИ безопасным в одиночку» адресовано комитетам по безопасности компании. Его опубликовали Никита Балесни (работал над алайнментом ИИ), Томек Корбак и Джасмин Ван (оба занимались вопросами безопасности). Они считают, что OpenAI «не нормальная компания», а сотрудничество со сторонними организациями в вопросах безопасности — «свободное и без страха» — назвали важнейшим условием работы здесь.
Представитель OpenAI заявил Business Insider, что внутреннее расследование выявило, что сотрудники нарушили правила компании по доступу к конфиденциальной информации и обращению с ней.
Авторы письма утверждают, что получили лишь устные объяснения увольнения и действовали строго в рамках своих трудовых договоров. Джасмин Ван назвала причины увольнения, которые им озвучили, просто бессмысленными.
Никите Балесни компания перестала доверять — потому что слишком активно общался с внешними организациями по безопасности. «Я никогда не делился интеллектуальной собственностью компании. Работа, которую я вёл, была согласована с моим руководством, главами исследований и советом директоров», — утверждает он.
Томек Корбак отметил, что его устно отчитали за то, как он коммуницировал с — METR внешней некоммерческой организацией, изучающей риски ИИ: «Чтобы вы понимали: общение с METR входило в мои прямые рабочие обязанности».
В письме авторы подчеркивают, что теперь их бывшие коллеги просто побоятся работать так, как было принято в компании раньше: «Такие внезапные и резкие увольнения подрывают открытую культуру, которой OpenAI дорожила в прошлом».
Уволенные специалисты оставили компании три совета: привлекать внешних аудиторов безопасности непосредственно внутрь организации, сохранять возможность мониторинга передовых моделей и поддерживать открытый диалог между исследователями безопасности и остальным сообществом. Корбак опасается, что OpenAI может использовать их увольнение как предлог свернуть сотрудничество с METR.
При этом в руководстве исследовательского подразделения OpenAI разослали внутреннее обращение к сотрудникам, где поддержали рекомендации уволенных. Но категорически отвергли обвинения в мести за критику.
Это происходит на фоне серии инцидентов у OpenAI и Anthropic, чьи ИИ-агенты сбегали из тестовых сред. В июле OpenAI признала, что её ИИ-агент вырвался из «песочницы» и взломал Hugging Face. METR выступает одним из главных независимых расследователей подобного рода сбоев.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.