Amazon вкладывает миллиарды долларов в кастомные ИИ-чипы

Новинка должна повысить эффективность ЦОДов Amazon, сократить собственные издержки и издержки клиентов Amazon Web Services, а также снизить зависимость техногиганта от Nvidia.

Работу ведёт компания Annapurna Labs, которую Amazon купила в 2015 году за $350 млн. Чип под названием Trainium 2 будет представлен в следующем месяце в рамках семейства чипов, предназначенных для тренировки больших языковых моделей. Его уже тестируют Anthropic, Databricks, Deutsche Telekom и другие компании.

Вице-президент AWS по вычислительным и сетевым сервисам Дейв Браун заявил, что Amazon хочет быть лучшим местом для эксплуатации чипов Nvidia, но в то же время считает нормальным иметь альтернативу. Уже сейчас чипы линейки Inferentia стоят на 40% дешевле решений Nvidia при генерировании ответов ИИ-моделей. Когда речь идёт о расходах в десятки миллионов долларов, экономия при выборе вычислительной платформы весьма ощутима.

По итогам 2024 года капитальные расходы Amazon могут достичь $75 млрд, из которых большинство придётся на технологическую инфраструктуру, а в 2025-м будут ещё выше. В 2023-м они составили $48,4 млрд.

Эксперты отмечают, что крупные провайдеры облачных услуг стремятся формировать собственную интегрированную и однородную структуру чипов. Компании от OpenAI до Apple стараются разработать собственные ИИ-чипы, чтобы снизить производственные расходы, увеличить прибыль и усилить контроль за доступностью чипов.

Reuters: OpenAI разрабатывает собственный ИИ-чип

По теме

Reuters: OpenAI разрабатывает собственный ИИ-чип

Китайские власти выдавливают Nvidia из страны

По теме

Китайские власти выдавливают Nvidia из страны

Apple предпочла тренировать свой ИИ на чипах Google, а не Nvidia

По теме

Apple предпочла тренировать свой ИИ на чипах Google, а не Nvidia

devby 17 лет!

Вспоминаем наш (и ваш) переходный возраст и делимся виш-листом