OpenAI жалуется, что ей не хватает вычислительных мощностей

По словам генерального директора OpenAI Сэма Альтмана, компания испытывает дефицит графических процессоров и будет добавлять десятки тысяч графических процессоров на следующей неделе, чтобы расширить доступ к GPT-4.5.

Эксперты оценивают GPT-4.5 как дорогостоящую модель. OpenAI взимает $75 за миллион токенов (примерно 750 000 слов), введенных в модель, и $150 за миллион токенов, сгенерированных моделью. Это в 30 раз превышает стоимость ввода и в 15 раз превышает стоимость вывода рабочей модели GPT-4o от OpenAI.

Несмотря на высокую стоимость и проблемы с доступностью графических процессоров, Альтман заявил что это «первая модель, которая ощущается как разговор с вдумчивым человеком». Он также подчеркнул, что это «не модель для рассуждений и она не будет соответствовать контрольным показателям».

Одним из ключевых решений для OpenAI является тесное сотрудничество с Microsoft. Благодаря партнерству с Azure OpenAI получает доступ к огромным вычислительным ресурсам, что позволяет арендовать GPU и масштабировать инфраструктуру по мере необходимости, обходя некоторые ограничения поставок.

Ранее Microsoft изменила свои планы по расширению мощностей дата-центров для поддержки ИИ. Были приостановлены ряд договоров аренды и перераспределены значительные мощности. По мнению аналитиков, это может быть связано с задержками в строительстве и подключении электроэнергии.

Компания планировала утроить мощности своих дата-центров к 2025 финансовому году с инвестициями около $80 миллиардов, однако снижение спроса на облачные услуги и возможное изменение отношений с OpenAI привели к корректировке этих амбициозных планов.