Аддзел навін 12 лістапада 2024, 16:50

Amazon укладвае мільярды долараў у кастамныя АІ-чыпы

Amazon рыхтуецца да рэлізу новыя фірмовыя АІ-паскаральнікі, паведамляе Financial Times.

Навінка мае павысіць эфектыўнасць ЦАДаў Amazon, скараціць уласныя выдаткі і выдаткі кліентаў Amazon Web Services, а таксама знізіць залежнасць тэхнагіганта ад Nvidia.

Працу вядзе кампанія Annapurna Labs, якую Amazon купіла ў 2015 годзе за $350 млн. Чып пад назвай Trainium 2 будзе паказаны ў наступным месяцы ў рамках сямейства чыпаў, прызначаных для трэніроўкі вялікіх моўных мадэляў. Яго ўжо тэсціруюць Anthropic, Databricks, Deutsche Telekom і іншыя кампаніі.

Віцэ-прэзідэнт AWS па вылічальных і сеткавых сэрвісах Дэйв Браўн заявіў, што Amazon хоча быць найлепшым месцам для эксплуатацыі чыпаў Nvidia, але ў той жа час лічыць нармальным мець альтэрнатыву. Ужо цяпер чыпы лінейкі Inferentia каштуюць на 40% танней за рашэнні Nvidia пры генерацыі адказаў АІ-мадэляў. Калі гаворка ідзе пра выдаткі ў дзясяткі мільёнаў долараў, эканомія пры выбары вылічальнай платформы вельмі адчувальная.

Па выніках 2024 года капітальныя выдаткі Amazon могуць дасягнуць $75 млрд, з якіх большасць прыпадзе на тэхналагічную інфраструктуру, а ў 2025-м будуць яшчэ вышэйшымі. У 2023-м яны склалі $48,4 млрд.

Эксперты адзначаюць, што буйныя правайдары воблачных паслуг імкнуцца фармаваць уласную інтэграваную і аднастайную структуру чыпаў. Кампаніі ад OpenAI да Apple імкнуцца распрацаваць уласныя АІ-чыпы, каб знізіць вытворчыя выдаткі, павялічыць прыбытак і ўзмацніць кантроль за даступнасцю чыпаў.