ІТ-гіганты прымушаюць перадавыя нейрасеткі размаўляць як неандэртальцы, каб не збанкрутаваць
Выдаткі кампаній на ШІ-токены сталі настолькі велізарнымі і непрадказальнымі, што распрацоўшчыкі па ўсім свеце пачалі масава ўкараняць плагін пад назвай Caveman — «пячорны чалавек», піша 404 Media. Гэты інструмент адключае ў вялікіх моўных мадэляў накшталт Claude Code ці Gemini звыклую ветлівасць і падрабязныя разважанні, прымушаючы іх адказваць максімальна коратка і груба.
Выдаткі кампаній на ШІ-токены сталі настолькі велізарнымі і непрадказальнымі, што распрацоўшчыкі па ўсім свеце пачалі масава ўкараняць плагін пад назвай Caveman — «пячорны чалавек», піша 404 Media. Гэты інструмент адключае ў вялікіх моўных мадэляў накшталт Claude Code ці Gemini звыклую ветлівасць і падрабязныя разважанні, прымушаючы іх адказваць максімальна коратка і груба.
Стваральнік плагіна Юліус Брусі запусціў праект у пачатку красавіка пасля таго, як заўважыў, колькі грошай сыходзіць на пустыя вітанні і пераходныя фразы ШІ ўнутры працоўных цыклаў. Паводле яго вымярэнняў, Caveman скарачае колькасць выходных токенаў на 65-75%, цалкам захоўваючы сутнасць. Пры гэтым плагін сціскае толькі навакольны тэкст, не чапаючы важныя тэхнічныя дэталі: сам код, шляхі, спасылкі ці каманды. У плагіна ёсць розныя ўзроўні сціску: ад «лёгкага» да рэжыму Wenyan, які перакладае адказы на старажытнакітайскую мову, вядомую сваёй экстрэмальнай лаканічнасцю. Сярод карыстальнікаў плагіна — распрацоўшчыкі з OpenAI, Nvidia і GitHub.
Праблема кошту ШІ сёння стаіць як ніколі востра. GitHub нядаўна адмяніў фіксаваную падпіску і перайшоў на аплату за кожны токен, Uber цалкам выдаткаваў свой гадавы ШІ-бюджэт усяго за чатыры месяцы, а Walmart і інфраструктурны гігант Legrand увялі жорсткія ліміты для супрацоўнікаў. Legrand прама заклікае інжынераў выкарыстоўваць рэжым «пячорнага чалавека», каб эканоміць бюджэт. Даходзіць да абсурду: кансалтынгавы гігант Accenture, які яшчэ нядаўна агрэсіўна заклікаў усіх укараняць ШІ, цяпер зарабляе на продажы паслугі па «эканоміцы токенаў».
Caveman стаў настолькі папулярным, што яго код на GitHub дапамагаюць дапрацоўваць топавыя спецыялісты індустрыі. Напрыклад, дырэктар па інжынерыі OpenAI Шэйн Суіні асабіста дадаў у плагін падтрымку інструмента Codex. Самі распрацоўшчыкі прызнаюць, што сітуацыя выглядае камічна, але праблема абсалютна рэальная. Яшчэ мінулым годам кіраўнік OpenAI Сэм Альтман заявіў, што банальная ветлівасць карыстальнікаў, якія пішуць робатам «калі ласка» і «дзякуй», абыходзіцца кампаніі ў дзясяткі мільёнаў долараў праз лішнія выдаткі электраэнергіі.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.