Некоторые сотрудники Google DeepMind уволились или собираются уйти из компании из-за ее сотрудничества с военными США и Израиля. Разработчики опасаются, что созданный ими ИИ будет использоваться в боевых операциях.
Некоторые сотрудники Google DeepMind уволились или собираются уйти из компании из-за ее сотрудничества с военными США и Израиля. Разработчики опасаются, что созданный ими ИИ будет использоваться в боевых операциях.
Одна из уволившихся — инженер-исследователь София Лигуори, проработавшая в DeepMind три года. Она объяснила свое решение тем, что Google внедряет ИИ в военные системы.
«Осознание того, что моя компания все активнее продвигает ИИ для использования в военных операциях, заставляет меня стыдиться работы в Google», — заявила Лигуори. По ее словам, она больше не верит, что технологии компании принесут обществу больше пользы, чем вреда.
В октябре DeepMind также покинул исследователь Андреас Кирш. Он считает, что компания не обеспечивает достаточного контроля за использованием своих моделей в военных целях.
«Похоже, у Google нет права контролировать или запрещать Пентагону определенные способы использования ее ИИ. Более того, компания, судя по всему, имеет ограниченное представление о том, как именно он применяется», — сказал Кирш.
В этом году Google заключила контракт с Пентагоном, разрешающий использовать ее ИИ в секретных военных проектах. Соглашение допускает применение технологий для любых законных государственных целей, но ограничивает использование автономного оружия без надлежащего контроля со стороны человека.
Сотрудники также рассказали BBC, что боятся открыто критиковать компанию из-за условий трудовых договоров и возможных последствий для карьеры. «Люди боятся ответных мер и риска для своей карьеры. Возникает ощущение, что за тобой наблюдают и ты не можешь говорить», — рассказала Лигуори.
Недовольство военными контрактами Google нарастает не первый месяц. В июне компанию покинул директор по безопасности платформы Android Рене Майрхофер, также выступавший против сотрудничества с Пентагоном.
Ранее сотрудники DeepMind потребовали восстановить обязательство не разрабатывать ИИ для оружия и слежки, а также предоставить им право отказываться от проектов по этическим соображениям.
В Google заявили, что проверяют государственные контракты на соответствие внутренним принципам использования ИИ. Компания также утверждает, что сотрудники могут безопасно сообщать о своих опасениях, а ее правила запрещают преследование за такие обращения.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.