Anthropic показала одну из самых быстрых ИИ-моделей в мире
Стартап выпустил Claude 3 Haiku — модель из семейства Claude 3, которая конкурирует с GPT-4. По словам создателей, модель троекратно превосходит аналогичные продукты.
Стартап выпустил Claude 3 Haiku — модель из семейства Claude 3, которая конкурирует с GPT-4. По словам создателей, модель троекратно превосходит аналогичные продукты.
Anthropic заявила, что модель подойдет в ситуациях, когда необходим результат с минимальными задержками. Например, в клиентской поддержке и ответах на вопросы. Haiku обрабатывает до 21 тысячи токенов (или 30 страниц текста) за секунду при длине запроса до 32 тысяч токенов. Длина контекстного окна Haiku, так же, как и у другой модели Opus, составляет 200 тысяч токенов, что соответствует 500 страницам текста — на 50% больше, чем у GPT-4.
Haiku является мультимодальной системой и способна обрабатывать как текст и код, так и изображения, таблицы, диаграммы и графики. Например, она может проанализировать 400 дел Верховного суда США или 2500 изображений всего за $1. «Haiku способен анализировать огромные объёмы документов, например, квартальную отчётность, контракты, судебные дела — вдвое дешевле и не уступая в скорости конкурентам», — пояснили в стартапе.
Семейство Claude 3 показали в марте этого года. Claude Opus, флагманская и самая мощная модель Anthropic, заняла первое место в рейтинге Chatbot Arena Leaderboard наряду с последней моделью GPT-4 от OpenAI.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
рука лицо. пруфы плиз
И то правда. На кого такие заявления рассчитаны? В зависимости от датасета и лосс-функции все топчики отличаются на 5-10% примерно. А тут прям загнули - в 3, мать его, раза. Я, конечно, не исключаю, что скоро коллеги вынужденно возьмутся за перфоманс LLM, потому что уж очень дорого содержание такой роскоши обходится, быстрый отклик очень востребован и таскать эти наборы весов по несколько десятков гигов все заманались. Слабовато верится, что настолько оптимизировали без потерь.
Пользователь отредактировал комментарий 17 марта 2024, 20:21