ChatGPT каштуе распрацоўшчыкам больш за $700 тысяч на суткі
Паводле ацэнак даследчай кампаніі SemiAnalysis, праца ChatGPT, які піша для карыстальнікаў код, самыя разнастайныя тэксты і адказвае на пытанні пра ўсё на свеце, абыходзіцца OpenAI у $700 тысяч на дзень.
Гэта тлумачыцца патрэбай у велізарных вылічальных магутнасцях для апрацоўкі карыстальніцкіх запытаў і высокім коштам гэтай інфраструктуры.
«Большая частка выдаткаў звязаная з дарагоўляй сервераў, якія яны патрабуюць», — кажуць у SemiAnalysis.
І гаворка вядзецца нават не пра найноўшую версію мадэляў у аснове ChatGPT — падлікі праводзіліся для GPT-3. Аналітыкі мяркуюць, што выдаткі на GPT-4 яшчэ вышэйшыя.
Трэніроўка моўных мадэляў — нятанная забава, якая можа каштаваць дзясяткі мільёнаў долараў. Аднак якраз іх разгортванне ў маштабе і функцыянаванне, то-бок аперацыйныя выдаткі, значна даражэйшыя.
Каб знізіць гэтыя выдаткі, Microsoft распрацоўвае кастамны АІ-чып пад кодавым імем Athena. Праект стартаваў у 2019 годзе — праз год пасля таго, як Microsoft уклала $1 млрд у OpenAI, а тая абавязалася выкарыстоўваць для працы сваіх мадэляў выключна воблачныя серверы Microsoft Azure. Цяпер на праекце занята каля 300 чалавек. Чып можа з’явіцца ўжо налета і будзе выкарыстоўвацца ўнутры Microsoft і OpenAI.
У AI takeover расказваем, як разам з робатамі захопліваць свет: курсы, парады ды іншая вучоба
Читать на dev.by