Отдел новостей 12 ноября 2024, 16:50

Amazon вкладывает миллиарды долларов в кастомные ИИ-чипы

Amazon готовится к релизу новых фирменных ИИ-ускорителей, сообщает Financial Times.

Новинка должна повысить эффективность ЦОДов Amazon, сократить собственные издержки и издержки клиентов Amazon Web Services, а также снизить зависимость техногиганта от Nvidia.

Работу ведёт компания Annapurna Labs, которую Amazon купила в 2015 году за $350 млн. Чип под названием Trainium 2 будет представлен в следующем месяце в рамках семейства чипов, предназначенных для тренировки больших языковых моделей. Его уже тестируют Anthropic, Databricks, Deutsche Telekom и другие компании.

Вице-президент AWS по вычислительным и сетевым сервисам Дейв Браун заявил, что Amazon хочет быть лучшим местом для эксплуатации чипов Nvidia, но в то же время считает нормальным иметь альтернативу. Уже сейчас чипы линейки Inferentia стоят на 40% дешевле решений Nvidia при генерировании ответов ИИ-моделей. Когда речь идёт о расходах в десятки миллионов долларов, экономия при выборе вычислительной платформы весьма ощутима.

По итогам 2024 года капитальные расходы Amazon могут достичь $75 млрд, из которых большинство придётся на технологическую инфраструктуру, а в 2025-м будут ещё выше. В 2023-м они составили $48,4 млрд.

Эксперты отмечают, что крупные провайдеры облачных услуг стремятся формировать собственную интегрированную и однородную структуру чипов. Компании от OpenAI до Apple стараются разработать собственные ИИ-чипы, чтобы снизить производственные расходы, увеличить прибыль и усилить контроль за доступностью чипов.