Компания считает, что новые модели могут в ближайшее время резко ускорить разработку следующего поколения ИИ. Но предупреждает: технологии способны развиваться быстрее, чем системы контроля за их безопасностью.
Компания считает, что новые модели могут в ближайшее время резко ускорить разработку следующего поколения ИИ. Но предупреждает: технологии способны развиваться быстрее, чем системы контроля за их безопасностью.
Об этом Anthropic сообщила в обновленной заявке на IPO, поданной 2 ноября в Комиссию по ценным бумагам и биржам США (SEC). Компания допустила, что в ближайшее время достигнет порога, который в ее политике безопасности определяется как «резкое ускорение прогресса благодаря ИИ».
Речь идет о рекурсивном самоулучшении (recursive self-improvement, RSI) — процессе, при котором ИИ помогает создавать более мощные версии самого себя, а те, в свою очередь, еще сильнее ускоряют разработку следующих моделей.
В собственной политике безопасности Anthropic определяет один из признаков такого ускорения как удвоение темпа развития возможностей ИИ по сравнению со сценарием, в котором нейросети не вносят существенного вклада в исследования и разработку. Иными словами, за один год ИИ-индустрия сможет проделывать работу, на которую без такой автоматизации потребовалось бы два года.
По словам Anthropic, ее внутренние оценки и прогнозы относительно будущих моделей показывают, что этот порог может быть достигнут совсем скоро. Однако ни одна из существующих моделей компании пока не соответсвует такому критерию.
Комиания уже активно использует Claude для разработки новых версий ИИ. Нейросеть помогает проводить эксперименты, готовить обучающие данные, проверять модели на безопасность и писать программный код.
Компания приводит конкретные цифры. В сентябре 2026 года Claude написал более 90% изменений, внесенных в ее кодовую базу. А средний дневной объем кода на одного инженера за июль–сентябрь оказался более чем в 45 раз выше среднего показателя 2024 года.
При этом Anthropic признает, что растущая зависимость от ИИ создает новые риски. Ошибки и уязвимости, допущенные одной моделью, могут переходить в следующие поколения и накапливаться. А скорость развития технологий может превысить возможности исследователей по проверке их безопасности.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.