Support us

GPT-4 потребляет до 1,5 литров воды для генерации ста слов

Исследователи из Калифорнийского университета в Риверсайде (США) рассказали об огромном расходе воды современными генеративными ИИ-моделями для охлаждения серверов даже тогда, когда они просто генерируют текст. И это вдобавок к высокой нагрузке на электросеть, пишет Tom’s Hardware.

8 комментариев
GPT-4 потребляет до 1,5 литров воды для генерации ста слов

Исследователи из Калифорнийского университета в Риверсайде (США) рассказали об огромном расходе воды современными генеративными ИИ-моделями для охлаждения серверов даже тогда, когда они просто генерируют текст. И это вдобавок к высокой нагрузке на электросеть, пишет Tom’s Hardware.

Объёмы потребления воды варьируются в зависимости от штатов и близости потребителей к дата-центрам, при этом чем меньше потребление воды, тем дешевле в этом регионе электричество и выше потребление электроэнергии. Например, в Техасе только для генерации емейла в 100 слов необходимо 235 мл воды, а в Вашингтоне — 1408 мл. На первый взгляд, это не так много, но показатели растут очень быстро, когда пользователи работают с GPT-4 несколько раз в неделю или в день.

Дата-центры являются крупными потребителями воды и электричества, следовательно, цены на эти ресурсы растут в городах, где возводятся такие объекты. Например, для обучения модели LLaMA-3 от Meta понадобилось 22 млн литров воды. Столько же нужно, чтобы вырастить 2014 кг риса, и столько же за год потребляют 164 американца.

Дорого стоит и потребляемая GPT-4 электроэнергия. Если каждый десятый работающий американец будет пользоваться моделью раз в неделю в течение года (52 запроса на 17 млн человек), потребуется 121 517 МВт·ч электроэнергии — этого хватит для всех домохозяйств в столице США на 20 дней. И это очень облегчённый сценарий использования GPT-4.

Большинство разработчиков ИИ-моделей, таких как OpenAI, Meta, Google и Microsoft, заявляют о стремлении сокращать потребление ресурсов. Однако конкретных планов действий они пока не предоставили.

OpenAI пригрозила банить пользователей за попытку выяснить как работает её новая модель
OpenAI пригрозила банить пользователей за попытку выяснить, как работает её новая модель
По теме
OpenAI пригрозила банить пользователей за попытку выяснить, как работает её новая модель
OpenAI объяснила почему ChatGPT начинал разговор первым
OpenAI объяснила, почему ChatGPT начинал разговор первым
По теме
OpenAI объяснила, почему ChatGPT начинал разговор первым
Читайте также
Нейросеть «оживляет» классические пиксельные игры
Нейросеть «оживляет» классические пиксельные игры
Нейросеть «оживляет» классические пиксельные игры
Meta разработала ИИ для «чтения мыслей»
Meta разработала ИИ для «чтения мыслей»
Meta разработала ИИ для «чтения мыслей»
Во Франции искусственный интеллект помогает искать нелегальные бассейны и штрафовать нарушителей
Во Франции искусственный интеллект помогает искать нелегальные бассейны и штрафовать нарушителей
Во Франции искусственный интеллект помогает искать нелегальные бассейны и штрафовать нарушителей
3 комментария
В России создали бесплатного конкурента генератора картинок DALL-E 2
В России создали бесплатного конкурента генератора картинок DALL-E 2
В России создали бесплатного конкурента генератора картинок DALL-E 2
2 комментария

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

povelitel-krasnogo-drakona
povelitel-krasnogo-drakona Проектный мессенджер в 我想排便
0

Например, для обучения модели LLaMA-3 от Meta понадобилось 22 млн литров воды ... и столько же за год потребляют 164 американца

Ничего себе они пьют!

fallinmyhand
fallinmyhand Патриот в Мерси Софтваре
2

ну пусть тогда ставят датацэнтры вместо ТЭЦ

capslock
capslock HR в НИИ Бацца
2

Не понял. А что цикл воды в охлаждении не замкнутый???

2

Да что тут не понятно... Перевод статьи из жёлтой прессы. Главное заголовок помощнее. Мировые запасы пива на исходе из-за ChatGpt!!! Уже интересно? Результат получен.

0

Увы, но это тупиковая технология

0

В пустыне то? O_o Пар большей частью испаряется (по аналогии со свистком чайника)

https://english.elpais.com/technology/2023-11-15/artificial-intelligence-guzzles-billions-of-liters-of-water.html "Этот метод более энергоэффективен, чем электрические охладители, но он подразумевает испарение значительного количества воды (т. е. невозврат в контур). Это вода, которая отображается как «потребленная» в записях технологических компаний, поясняет исследование Рена." (перевод из статьи)

https://www.youtube.com/watch?app=desktop&v=tJYSzc7YkY0

ade
ade автор в t.me/adeby
2

Надо попросить исследователей из Калифорнийского университета в Риверсайде (США) посчитать, сколько огня выделяют *опы комментаторов в каждой из статей про релокейт.

povelitel-krasnogo-drakona
povelitel-krasnogo-drakona Проектный мессенджер в 我想排便

Комментарий скрыт за нарушение правил комментирования.

Правила тут, их всего 5