Николай Чикишев world 17 сентября 2026, 15:03

Планы затормозить гонку ИИ поссорила сотрудников в OpenAI и Anthropic

Обещания OpenAI и Anthropic замедлить развитие ИИ ради безопасности вызвали споры внутри компаний. Сотрудники опасаются новых рисков для защиты технологий.

Оставить комментарий

Планы затормозить гонку ИИ поссорила сотрудников в OpenAI и Anthropic

Обещания OpenAI и Anthropic замедлить развитие ИИ ради безопасности вызвали споры внутри компаний. Сотрудники опасаются новых рисков для защиты технологий.

Financial Times сообщает, что глава Anthropic Дарио Амодей предложил дать независимым проверяющим «доступ почти как у сотрудников». По его плану, они должны получить рабочие ноутбуки и пропуска в офисы, а также доступ к внутренним инструментам и процессам разработки моделей. Сэм Альтман назвал предложение «отличной идеей» и заявил, что OpenAI готова последовать этому примеру.

Но сотрудники обеих компаний опасаются, что столь широкий доступ сторонних специалистов может создать новые риски — от утечки интеллектуальной собственности до доступа к наиболее мощным моделям и чувствительным данным. Один из собеседников FT назвал этот вопрос источником «конфликта» внутри компаний. Многие сотрудники и специалисты по безопасности вообще узнали о новых предложениях руководителей одновременно с публикой.

«Сейчас большинство сторонних организаций имеют намного меньше доступа, чем даже штатный сотрудник с минимальными правами», — объяснил бывший исследователь OpenAI Майлз Брандедж. По его мнению, чтобы такая система действительно заработала во всей отрасли, вероятно, понадобятся обязательные общие правила.

«Это не самый приятный способ жить»: CEO OpenAI — о страхах и давлении в разгар ИИ-гонки

OpenAI утверждает, что уже приостанавливала отдельные запуски обучения фронтирных моделей, чтобы дать системам безопасности время догнать рост их возможностей. Anthropic исследования пока не останавливала, хотя Амодей призывает компании «держать темп» развития под контролем и предлагает закрепить постоянных внешних аудиторов законодательно.

Опыт подобного внешнего контроля у OpenAI уже есть. После июльского инцидента с Hugging Face исследователи METR и Redwood Research получили материалы компании, изучили десятки тысяч логов более чем 1200 ИИ-агентов, работали из офиса OpenAI и опрашивали сотрудников. Однако расследование касалось только конкретного инцидента, что вызвало вопросы о том, насколько независимым может быть аудит, если сама компания определяет границы доступа.

«Все эти организации получают только тот доступ, который им дают сами ИИ-компании, и этого совершенно недостаточно», — заявил профессор Монреальского университета Дэвид Крюгер, ранее работавший в британском AI Security Institute. По его словам, нынешний подход фактически исходит из того, что «ИИ-системы безопасны, пока не доказано обратное».