Кансалтынгавыя гіганты імкліва ўкараняюць ШІ ў штодзённую працу супрацоўнікаў, але гэта абыходзіцца дорага. У McKinsey адной з галоўных стратэгій па кантролі растучых выдаткаў стала не ўвядзенне жорсткіх ліміту, а інфармаванне супрацоўнікаў пра перарасход рэсурсаў, піша Business Insider.
Кансалтынгавыя гіганты імкліва ўкараняюць ШІ ў штодзённую працу супрацоўнікаў, але гэта абыходзіцца дорага. У McKinsey адной з галоўных стратэгій па кантролі растучых выдаткаў стала не ўвядзенне жорсткіх ліміту, а інфармаванне супрацоўнікаў пра перарасход рэсурсаў, піша Business Insider.
Кіраўнік QuantumBlack — падраздзялення McKinsey па ШІ і аналітыцы — у Вялікабрытаніі Дэбасіш Патнайк расказаў, што фірма адсочвае спажыванне па кожным карыстальніку. Летам па ўсёй кампаніі запусцілі сістэму апавяшчэнняў: калі супрацоўнік пачынае выкарыстоўваць занадта шмат ШІ-рэсурсаў, яму прыходзіць ліст. «Гэта падобна да кантролю мабільнага трафіку на рабочым тэлефоне. Мы папросту тлумачым, як выканаць задачу з меншымі выдаткамі для кампаніі», — адзначыў Патнайк.
Эпоха бессістэмнага выкарыстання ШІ скончылася тады, калі распрацоўшчыкі LLM перайшлі ад падпісак да аплаты за фактычнае спажыванне токенаў. Гэта зрабіла фактар эфектыўнасці крытычна важным. Для разумення маштабаў: у верасні OpenAI паведаміла, што яе самыя актыўныя карыстальнікі ШІ-агентаў для напісання кода расходуюць токенаў больш чым на $7000 у дзень.
McKinsey да гэтага траўня расходавала каля 5 трлн токенаў у месяц. Пры гэтым спажыванне было вельмі нераўнамерным: усяго 10% супрацоўнікаў генеравалі каля 65% усяго аб’ёму. Часцей за ўсё нейрасеткамі актыўна карысталіся кансультанты ды інжынеры. У McKinsey падкрэсліваюць, што папярэджанні не забараняюць працаваць з ШІ, іх мэта — навучыць кансультантаў дзейнічаць больш эфектыўна. Паводле Патнайка, калі супрацоўнікі атрымалі наглядную статыстыку сваіх дзеянняў, іх падыход да працы з ШІ пачаў мяняцца.
Пакуль унутраныя выдаткі на ШІ не сталі для кампаніі праблемай, паколькі тэхналогіі выкарыстоўваюцца ў асноўным для асабістай прадукцыйнасці і паскарэння праектаў, дзе выгада ўсё яшчэ пераважвае выдаткі. Тым не менш McKinsey заклала падмурак для кантролю:
Іншыя кампаніі галіны ўкараняюць падобныя метады. Напрыклад, у аўдытарскай фірме EY стварылі адмысловы офіс па ацэнцы эфектыўнасці ШІ і паставілі маршрутызатар, які перанакіроўвае запыты супрацоўнікаў да найбольш пасуючай і выгаднай мадэлі. Гэта дапамагло знізіць спажыванне токенаў на 60% з красавіка.
Цяпер McKinsey актыўна прадае гэты вопыт сваім кліентам, якія за апошнія месяцы сутыкнуліся са схаванымі выдаткамі на нейрасеткі. Патнайк раіць топ-менеджарам ацэньваць кошт токенаў не ў разліку на аднаго супрацоўніка, а адносна канчатковага выніку. На ягоную думку, сляпая гонка за эканоміяй токенаў можа пазбавіць бізнес рэальнай карысці ад тэхналогій, таму трэба імкнуцца да граматнага навучання супрацоўнікаў, а не да жорсткіх забаронаў.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.