Главы ИТ-гигантов спросили гендира Anthropic, зачем он всех пугает искусственным интеллектом
После публичного подписания декларации о принципах безопасности ИИ руководители ведущих технокомпаний сфотографировались вокруг Дональда Трампа, демонстрируя единство отрасли. Но как сообщает Wall Street Journal со ссылкой на источники, за закрытыми дверями Белого дома между топ-менеджерами произошёл разговор: глава Nvidia Дженсен Хуанг и другие руководители спросили у СЕО Anthropic Дарио Амодеи, почему он выступает с настолько радикальными заявлениями о возможностях ИИ и рисках развития технологии.
После публичного подписания декларации о принципах безопасности ИИ руководители ведущих технокомпаний сфотографировались вокруг Дональда Трампа, демонстрируя единство отрасли. Но как сообщает Wall Street Journal со ссылкой на источники, за закрытыми дверями Белого дома между топ-менеджерами произошёл разговор: глава Nvidia Дженсен Хуанг и другие руководители спросили у СЕО Anthropic Дарио Амодеи, почему он выступает с настолько радикальными заявлениями о возможностях ИИ и рисках развития технологии.
Амодеи ответил, что компаниям важно честно говорить с общественностью о рисках, а не преуменьшать их.
Эти расспросы показывают скрытые разногласия, которые могут помешать планам сектора по саморегулированию. Амодеи ранее критиковал конкурентов за замалчивание проблем безопасности и предупреждал о рисках кибератак и массовой безработице из-за ИИ. При этом Anthropic пытается наладить отношения с администрацией Белого дома перед выходом на IPO с целевой оценкой в $2 трлн. Ранее компания пережила два сложных эпизода во взаимоотношениях с властями: почти трёхнедельную приостановку работы двух своих моделей из-за вопросов безопасности и внесение в чёрный список Пентагона из-за спора о использовании ИИ военными.
Подписанным во вторник принципам предшествовали многомесячные обсуждения того, как предотвратить кибератаки с использованием ИИ после выхода моделей уровня Mythos от Anthropic. Изначально Anthropic, OpenAI и Google поддерживали создание независимой саморегулируемой организации по аналогии с финансовым регулятором FINRA, которая занималась бы внешним тестированием и проверками моделей. Однако Марк Цукерберг, Дженсен Хуанг и Илон Маск убедили Трампа отказаться от этой идеи, заявив, что она сконцентрирует слишком много власти в руках нескольких компаний.
В итоге был согласован подход с мягким регулированием. Ключевую роль в подготовке итоговых принципов сыграл Марк Цукерберг, который взаимодействовал с администрацией и министром торговли Говардом Латником. Когда Амодеи за обедом снова поднял тему безопасности, именно Цукерберг отметил, что лучшим способом решения этих проблем станет выполнение принятых отраслевых принципов.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.