Некаторыя супрацоўнікі Google DeepMind звольніліся або збіраюцца пакінуць кампанію праз яе супрацу з ваеннымі ЗША ды Ізраіля. Распрацоўшчыкі апасаюцца, што створаны імі ШІ будзе выкарыстоўвацца ў баявых аперацыях.
Некаторыя супрацоўнікі Google DeepMind звольніліся або збіраюцца пакінуць кампанію праз яе супрацу з ваеннымі ЗША ды Ізраіля. Распрацоўшчыкі апасаюцца, што створаны імі ШІ будзе выкарыстоўвацца ў баявых аперацыях.
Адная з тых, хто звольніўся, — інжынер-даследчык Сафія Лігуоры, якая прапрацавала ў DeepMind тры гады. Яна патлумачыла сваё рашэнне тым, што Google укараняе ШІ ў ваенныя сістэмы.
«Усведамленне таго, што мая кампанія ўсё актыўней прасоўвае ШІ для выкарыстання ў ваенных аперацыях, прымушае мяне саромецца працы ў Google», — заявіла Лігуоры. Паводле яе, яна больш не верыць, што тэхналогіі кампаніі прынясуць грамадству больш карысці, чым шкоды.
У кастрычніку DeepMind таксама пакінуў даследчык Андрэас Кірш. Ён лічыць, што кампанія не забяспечвае дастатковага кантролю за выкарыстаннем сваіх мадэляў у ваенных мэтах.
«Падобна, у Google няма права кантраляваць або забараняць Пентагону пэўныя спосабы выкарыстання яе ШІ. Больш за тое, кампанія, судзячы па ўсім, мае абмежаванае ўяўленне пра тое, як менавіта ён прымяняецца», — сказаў Кірш.
Сёлета Google заключыла кантракт з Пентагонам, які дазваляе выкарыстоўваць яе ШІ ў сакрэтных ваенных праектах. Пагадненне дапускае прымяненне тэхналогій для любых законных дзяржаўных мэтаў, але абмяжоўвае выкарыстанне аўтаномнай зброі без належнага кантролю з боку чалавека.
Супрацоўнікі таксама расказалі BBC, што баяцца адкрыта крытыкаваць кампанію праз умову працоўных дамоваў і магчымых наступстваў для кар’еры. «Людзі баяцца наступстваў і рызыкі для сваёй кар’еры. Узнікае адчуванне, што за табой сочаць і ты не можаш гаварыць», — расказала Лігуоры.
Незадаволенасць ваеннымі кантрактамі Google нарастае ўжо не першы месяц. У чэрвені кампанію пакінуў дырэктар у бяспецы платформы Android Рэнэ Майрхофер, які таксама выступаў супраць супрацоўніцтва з Пентагонам.
Раней супрацоўнікі DeepMind патрабавалі аднавіць абавязацельства не распрацоўваць ШІ для зброі і сачэння, а таксама даць ім права адмаўляцца ад праектаў з этычных меркаванняў.
У Google заявілі, што правяраюць дзяржаўныя дамовы на адпаведнасць унутраным прынцыпам выкарыстання ШІ. Кампанія таксама сцвярджае, што супрацоўнікі могуць бяспечна паведамляць пра свае асцярогі, а яе правілы забараняюць пераслед за такія зварототы.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.