Президент США Дональд Трамп и руководители крупнейших технологических компаний подписали добровольное соглашение о безопасности ИИ. Документ предусматривает внутренние проверки, независимый аудит и контроль на уровне советов директоров компаний.
Президент США Дональд Трамп и руководители крупнейших технологических компаний подписали добровольное соглашение о безопасности ИИ. Документ предусматривает внутренние проверки, независимый аудит и контроль на уровне советов директоров компаний.
Соглашение под названием Joint Commitment On Frontier Responsibilities подписали представители Google, Anthropic, Meta, OpenAI, Nvidia и xAI. Среди них — Сундар Пичаи, Дарио Амодеи, Марк Цукерберг, Грег Брокман, Дженсен Хуанг и Илон Маск.
Трамп назвал договоренность «морально обязывающей» и сравнил ее с конституцией. По его словам, технологические компании способны на «огромный самоконтроль» при разработке ИИ. При этом соглашение носит добровольный характер и само по себе не вводит юридических санкций за нарушение обязательств.
Документ предусматривает четыре уровня контроля. Компании должны следить за возможностями и поведением моделей во время обучения и после запуска, создать внутреннюю команду для проверки этих механизмов, привлекать независимого внешнего аудитора и поручить отдельному комитету совета директоров надзор за результатами проверок.
Среди рисков отдельно упоминаются кибербезопасность, биологические и химические угрозы, а также действия моделей, которые могут привести к несанкционированному доступу к компьютерным системам.
Участники также договорились регулярно встречаться для разработки общих стандартов и практик безопасности. В самом документе говорится, что со временем эти меры «возможно, будет иметь смысл закрепить в законах или нормативных актах».
Глава Anthropic Дарио Амодей при этом подчеркнул, что вопрос регулирования остается открытым. «У этой технологии есть вполне реальные риски. А механизм того, как с ними справляться, все еще обсуждается», — сказал он.
Марк Цукерберг назвал соглашение первым шагом, который может объединить всю отрасль. Трамп, в свою очередь, заявил, что может создать примерно из десяти человек отдельную группу для наблюдения за выполнением договоренностей.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.