OpenAI не цалкам задаволена найноўшымі чыпамі Nvidia і з мінулага года шукае альтэрнатывы. Гаворка не пра «навучанне» вялікіх мадэляў, дзе Nvidia ўсё яшчэ няма роўных, а пра іншы этап — інферэнс, то бок момант, калі ШІ адказвае карыстальніку. Менавіта тут у OpenAI з’явіліся пытанні да хуткасці і архітэктуры абсталявання, піша Reuters.
OpenAI не цалкам задаволена найноўшымі чыпамі Nvidia і з мінулага года шукае альтэрнатывы. Гаворка не пра «навучанне» вялікіх мадэляў, дзе Nvidia ўсё яшчэ няма роўных, а пра іншы этап — інферэнс, то бок момант, калі ШІ адказвае карыстальніку. Менавіта тут у OpenAI з’явіліся пытанні да хуткасці і архітэктуры абсталявання, піша Reuters.
Кампаніям зараз асабліва важная хуткасць водгуку — напрыклад, у задачах па праграмаванні ці калі ШІ ўзаемадзейнічае з іншым софтам. Паводле крыніц выдання, OpenAI патрэбна новае «жалеза», якое ў будучыні зможа закрыць каля 10% яе патрэб у магутнасцях для інферэнса. Унутры кампаніі праблема стала асабліва прыкметнай на генератары кода Codex: частку яго абмежаванняў супрацоўнікі звязвалі з выкарыстаннем GPU Nvidia.
OpenAI ужо заключыла здзелкі з AMD і Cerebras, а таксама вяла перамовы з Groq — стартапам, які робіць стаўку на чыпы з вялікім аб’ёмам убудаванай памяці (SRAM), што дае прырост хуткасці пры інферэнсе. Але ў снежні Nvidia падпісала з Groq ліцэнзійнае пагадненне на $20 млрд, фактычна перахапіўшы ініцыятыву. Паралельна Nvidia вядзе перамовы аб інвестыцыях у саму OpenAI — раней гаворка ішла пра ўкладанне да $100 млрд, але ўгода зацягнулася.
Пры гэтым публічна абодва бакі імкнуцца згладзіць вуглы. Кіраўнік Nvidia Джэнсэн Хуанг назваў чуткі пра напружанне «лухтой», кампанія заяўляе, што яе рашэнні забяспечваюць лепшую прадукцыйнасць і кошт валодання. У OpenAI падкрэсліваюць, што па-ранейшаму выкарыстоўваюць Nvidia для большай часткі сваіх інферэнс-магутнасцей, а Сэм Альтман назваў яе «вытворцам лепшых ШІ-чыпаў у свеце».
Але сам факт актыўнага пошуку альтэрнатыў паказвае, што рынак уступае ў новую фазу. Калі раней галоўным полем бітвы было навучанне мадэляў, то цяпер усё большае значэнне мае тое, як хутка і эфектыўна яны працуюць у рэальных карыстальніцкіх сцэнарыях — і тут дамінаванне Nvidia упершыню падвяргаецца сур’ёзнай праверцы.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.