Компания проверила личные телефоны трех исследователей из-за подозрений в утечке секретов. Обнаружив переписки в Signal с исчезающими сообщениями, компания вскоре уволила всех троих.
Компания проверила личные телефоны трех исследователей из-за подозрений в утечке секретов. Обнаружив переписки в Signal с исчезающими сообщениями, компания вскоре уволила всех троих.
По данным The Wall Street Journal, речь о специалистах по безопасности ИИ Томеке Корбаке, Миките Балесни и Жасмин Ван. В сентябре их вызвали на беседы со службой безопасности компании, которая расследовала возможную утечку информации об архитектуре новых моделей OpenAI.
Компания подозревала, что сотрудники передавали конфиденциальные сведения независимому исследователю безопасности ИИ Райану Гринблатту. При проверке телефонов выяснилось, что некоторые переписки с ним в Signal велись с включенным автоматическим удалением сообщений.
«Мне сказали, что доверие было подорвано из-за общения с третьей стороной по неразрешенным каналам», — рассказал Корбак. По его словам, он взаимодействовал с внешней организацией METR в рамках своих рабочих обязанностей.
OpenAI подтвердила, что Signal не входил в число разрешенных каналов общения, и добавила, что его использование не было единственной причиной увольнений. По версии компании, внутреннее расследование выявило нарушения правил обращения с конфиденциальной информацией.
Уволенные исследователи обвинения отвергают. Они утверждают, что не передавали корпоративные секреты посторонним и не получили письменных объяснений, какие именно правила нарушили. Гринблатт также отрицает причастность к утечке.
Конфликт разворачивался на фоне споров о прозрачности новых ИИ-моделей. Исследователи выступали против архитектур, которые позволяют нейросетям рассуждать без доступной человеку записи промежуточных шагов. Они опасались, что это затруднит обнаружение опасного поведения ИИ.
После увольнения сотрудники направили открытое письмо руководству OpenAI. Они предупредили, что подобные решения могут заставить других специалистов замалчивать проблемы безопасности и избегать общения с независимыми аудиторами. OpenAI отрицает, что увольнения связаны с критикой ее подходов к безопасности, и заявляет о намерении продолжать сотрудничество с внешними исследовательскими организациями.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.