По оценкам исследовательской компании SemiAnalysis, работа ChatGPT, которая пишет для пользователей код, самые разнообразные тексты и отвечает на вопросы обо всём на свете, обходится OpenAI в $700 тысяч в день.
По оценкам исследовательской компании SemiAnalysis, работа ChatGPT, которая пишет для пользователей код, самые разнообразные тексты и отвечает на вопросы обо всём на свете, обходится OpenAI в $700 тысяч в день.
Это объясняется потребностью в огромных вычислительных мощностях для обработки пользовательских запросов и высокой стоимостью этой инфраструктуры.
«Бо́льшая часть затрат связана с дороговизной серверов, которые они требуют», — говорят в SemiAnalysis.
И речь идёт даже не о новейшей версии моделей в основе ChatGPT — подсчёты проводились для GPT-3. Аналитики полагают, что затраты на GPT-4 ещё выше.
Тренировка языковых моделей — недешёвое удовольствие, которое может стоить десятки миллионов долларов. Однако именно их развертывание в масштабе и функционирование, то есть операционные издержки, гораздо дороже.
Чтобы снизить эти издержки, Microsoft разрабатывает кастомный ИИ-чип под кодовым именем Athena. Проект стартовал в 2019 году — спустя год после того, как Microsoft вложила $1 млрд в OpenAI, а та обязалась использовать для работы своих моделей исключительно облачные серверы Microsoft Azure. Сейчас на проекте занято около 300 человек. Чип может появиться уже в следующем году и будет использоваться внутри Microsoft и OpenAI.
В AI takeover рассказываем, как вместе с роботами захватывать мир: курсы, советы и другая учёба
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.
И че? Это = 1млн подписчиков на ChatGPT+, а дальше уже профит. Цель статьи показать, что эти альтруисты на хлебе и воде типо там живут?
но могу добавить, что подписка черт побери того стоит - даже если бы она была не 20$ а больше, я бы все равно купил, выручает часто по многим вопросам, хотя я нифика не джун - а еще и кроме IT тоже много чем помогает сэкономить время