Кампаніі, якія актыўна ўкараняюць ШІ ў працу, пачалі сур’ёзна задумвацца аб яго рэальным кошце. Новая метрыка — токены, адзінкі вылічэнняў, якія выдаткоўваюцца кожны раз, калі чалавек звяртаецца да ШІ. Некаторыя кампаніі адсочваюць, колькі токенаў «спальвае» кожны супрацоўнік, каб абмежаваць неэфектыўнае ці нямэтавае выкарыстанне, піша Wall Street Journal.
Кампаніі, якія актыўна ўкараняюць ШІ ў працу, пачалі сур’ёзна задумвацца аб яго рэальным кошце. Новая метрыка — токены, адзінкі вылічэнняў, якія выдаткоўваюцца кожны раз, калі чалавек звяртаецца да ШІ. Некаторыя кампаніі адсочваюць, колькі токенаў «спальвае» кожны супрацоўнік, каб абмежаваць неэфектыўнае ці нямэтавае выкарыстанне, піша Wall Street Journal.
Напрыклад, платформа аўтаматызацыі Zapier запусціла ўнутраную панэль, дзе відаць, як супрацоўнікі выкарыстоўваюць ШІ і колькі токенаў пры гэтым трацяць. «У нас з’явіўся новы артыкула выдаткаў», — кажа дырэктар па ШІ-трансфармацыі кампаніі Брэндан Самут. Па яго словах, дапамога ШІ — ці то адказ на тыкет падтрымкі, ці то дапамога ў закрыцці ўгоды — мае цану, і кампаніям даводзіцца ўлічваць яе ў сваіх разліках.
Токены — гэта базавая адзінка вылічэнняў для ШІ-мадэляў. Напрыклад, каб згенераваць каля 750 слоў тэксту, патрабуецца прыкладна 1000 токенаў. Калі гаворка ідзе пра код, відэа, аўдыё або складаныя задачы з ШІ-агентамі, расход токенаў можа расці вельмі хутка. Кошт токенаў з часам падае, але выкарыстанне ШІ ў кампаніях расце, таму агульны рахунак усё роўна павялічваецца.
Кампаніі пачынаюць аналізаваць гэтыя выдаткі і глядзець, хто выкарыстоўвае ШІ эфектыўна. Калі адзін супрацоўнік траціць у пяць разоў больш токенаў, чым калегі, гэта можа азначаць або неэфектыўнасць, або наадварот вельмі высокую прадуктыўнасць. «Мы спрабуем зразумець, ці гэта карысны патэрн, які варта маштабаваць, або анты-патэрн, ад якога трэба адвучваць», — кажа Саммут.
Часам выдаткі аказваюцца нечакана вялікімі. У стартапе Vercel інжынер запусціў каманду ШІ-агентаў, каб прааналізаваць навуковы артыкул і стварыць сэрвіс на яго аснове. За адзін дзень агенты напісалі каштоўны код, на які ў людзей сышлі б тыдні або месяцы. Але токены абышліся прыкладна ў $10 тысяч. «Гэта крыху падобна на тое, як быццам вы далі людзям пажарны шланг з палівам», — параўнаў CEO кампаніі Гільерма Раўх.
Даследчык Браян Джабаран адзначае, што многія кампаніі спачатку лічылі ШІ амаль бясплатнай крыніцай росту прадуктыўнасці, але рэальнасць аказалася іншай. Напрыклад, калі ШІ дрэнна выконвае задачу, кампанія можа патраціць дадатковыя грошы на выпраўленне памылак людзьмі або новымі запытамі да ШІ. У кампаніях з сотнямі тысяч супрацоўнікаў такія выдаткі могуць хутка стаць сур’ёзным артыкулам расходаў.
У стартапе Kumo AI токены пачалі адсочваць па кожнаму інжынеру. Кофаўндар Хема Рагхаван кажа, што лепшыя распрацоўшчыкі выкарыстоўваюць ШІ-агентаў як «армію малодшых памочнікаў». Некаторыя інжынеры, напрыклад, з’язджаюць катацца на лыжах на выходныя, а іх агенты працягваюць выконваць задачы.
Эксперты чакаюць, што ў бліжэйшыя гады кампаніі пачнуць уводзіць правілы выкарыстання токенаў — напрыклад, абмяжоўваць, якія мадэлі можна ўжываць для канкрэтных задач. А кіраўнікі ўсё часцей будуць глядзець на рэзкія ўсплескі расходаў. Як кажа Раўх з Vercel, часам вялікія траты могуць азначаць вялізную карысць: патраціўшы $10 тысяч за дзень, кампанія магла зэканоміць мільёны даляраў. Але рызыка злоўжыванняў таксама ёсць — супрацоўнікі могуць выкарыстоўваць токены для асабістых праектаў або старонніх стартапаў.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.