Кампанія праверыла асабістыя тэлефоны трох даследчыкаў праз падазрэнні ва ўцечцы сакрэтаў. Выявіўшы перапіску ў Signal з паведамленнямі, якія знікаюць, кампанія неўзабаве звольніла ўсіх траіх.
Кампанія праверыла асабістыя тэлефоны трох даследчыкаў праз падазрэнні ва ўцечцы сакрэтаў. Выявіўшы перапіску ў Signal з паведамленнямі, якія знікаюць, кампанія неўзабаве звольніла ўсіх траіх.
Паводле дадзеных The Wall Street Journal, гаворка ідзе пра спецыялістаў у бяспецы ШІ Томке Корбаке, Мікіце Балэсні і Жасмін Ван. У верасні іх выклікалі на размове са службай бяспекі кампаніі, якая расследавала магчымую ўцечку інфармацыі пра архітэктуру новых мадэляў OpenAI.
Кампанія падазравала, што супрацоўнікі перадавалі канфідэнцыйныя звесткі незалежнаму даследчыку бяспекі ШІ Раяну Грынблату. Пры праверцы тэлефонаў высветлілася, што некаторыя перапіскі з ім у Signal вяліся з уключаным аўтаматычным выдаленнем паведамленняў.
«Мне сказалі, што давер быў падарваны праз зносіны з трэцім бокам па недазволеных каналах», — расказаў Корбак. Паводле яго, ён узаемадзейнічаў з вонкавай арганізацыяй METR у межах сваіх службовых абавязкаў.
OpenAI пацвердзіла, што Signal не ўваходзіў у лік дазволеных каналаў зносінаў, і дадала, што яго выкарыстанне не было адзінай прычынай звальненняў. Паводле версіі кампаніі, унутранае расследаванне выявіла парушэнні правілаў абыходжання з канфідэнцыйнай інфармацыяй.
Звольненыя даследчыкі абвінавачванні адмаўляюць. Яны сцвярджаюць, што не перадавалі карпаратыўныя сакрэты чужым і не атрымалі пісьмовых тлумачэнняў, якія менавіта правілы парушылі. Грынблат таксама адмаўляе сваю датычнасць да ўцечкі.
Канфлікт разгортваўся на фоне спрэчак пра празрыстасць новых ШІ-мадэляў. Даследчыкі выступалі супраць архітэктур, якія дазваляюць нейрасеткам разважаць без даступнага чалавеку запісу прамежкавых крокаў. Яны апасаліся, што гэта ўскладніць выяўленне небяспечных паводзін ШІ.
Пасля звальнення супрацоўнікі накіравалі адкрыты ліст кіраўніцтву OpenAI. Яны папярэдзілі, што падобныя рашэнні могуць прымусіць іншых спецыялістаў замоўчваць праблемы бяспекі і пазбягаць зносін з незалежнымі аўдытарамі. OpenAI адмаўляе, што звальненні звязаны з крытыкай яе падыходаў да бяспекі, і заяўляе пра намер працягваць супрацоўніцтва з вонкавымі даследчыцкімі арганізацыямі.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.