Компания заявила, что Claude уже «ведет» 26% исследований и разработки новых ИИ-моделей внутри компании. Модель может выполнить большую часть задачи от начала до конца по высокоуровневому запросу, хотя человек по-прежнему контролирует процесс.
Компания заявила, что Claude уже «ведет» 26% исследований и разработки новых ИИ-моделей внутри компании. Модель может выполнить большую часть задачи от начала до конца по высокоуровневому запросу, хотя человек по-прежнему контролирует процесс.
Еще в феврале доля такой работы была практически нулевой, а в марте составляла около 1%. К августу показатель вырос до 26%. При этом более 90% всех исследовательских и инженерных задач Anthropic уже выполняются при участии Claude: модель берет на себя крупные части работы, но действует под руководством людей.
Полностью автономно Claude пока не ведет ни одного направления исследований. «Мы должны сделать все возможное, чтобы сократить разрыв между тем, что знают передовые ИИ-лаборатории, и тем, что знает общество», — заявила Anthropic. Компания призвала других разработчиков регулярно публиковать аналогичные показатели, чтобы их можно было сравнивать между лабораториями.
В августе на основной внутренней платформе Anthropic одновременно работали около 30 тысяч ИИ-агентов, занимавшихся исследованиями и инженерными задачами. Каждое их действие проходило автоматическую проверку перед выполнением. Из более чем миллиарда решений за месяц система заблокировала примерно одно из каждых 47 тысяч.
Компания также раскрыла, сколько вычислительных ресурсов тратит на безопасность. В одну из недель июля около 6% вычислительных мощностей, использованных для исследований ИИ, были потрачены на исследования безопасности ИИ. Для исследований, которые выполнял сам ИИ, доля составляла около 12%.
Anthropic отмечает, что ускорение разработки ИИ самими моделями может усложнить их контроль: чем больше ИИ участвует в создании следующего поколения систем, тем труднее людям понимать и отслеживать весь процесс.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.