«Адваротны інфармацыйны парадокс»: CEO Microsoft абвінаваціў ШІ-кампаніі ў крывадушнасці і заклікаў бізнес абараняць свае дадзеныя
Кіраўнік Microsoft Сатыя Надэла ў допісе ў X прайшоўся па вядучых ШІ-лабараторыях — Anthropic, OpenAI і Google DeepMind. Ён паказаў на іронію сітуацыі: гэтыя кампаніі пабудавалі бізнес на зборы чужых дадзеных з інтэрнэту пад прыкрыццём добрасумленнага выкарыстання. Аднак цяпер тыя ж самыя кампаніі ўводзяць жорсткія ліміты для сваіх кліентаў, забараняючы ім выкарыстоўваць адказы нейрасетак для навучання ўласных, больш простых мадэлей (гэты працэс называецца дыстыляцыяй).
Кіраўнік Microsoft Сатыя Надэла ў допісе ў X прайшоўся па вядучых ШІ-лабараторыях — Anthropic, OpenAI і Google DeepMind. Ён паказаў на іронію сітуацыі: гэтыя кампаніі пабудавалі бізнес на зборы чужых дадзеных з інтэрнэту пад прыкрыццём добрасумленнага выкарыстання. Аднак цяпер тыя ж самыя кампаніі ўводзяць жорсткія ліміты для сваіх кліентаў, забараняючы ім выкарыстоўваць адказы нейрасетак для навучання ўласных, больш простых мадэлей (гэты працэс называецца дыстыляцыяй).
Надэла назваў такія паводзіны крывадушнасцю, адзначыўшы, што стваральнікі мадэляў у аднабаковым парадку прысвойваюць сабе чужую інтэлектуальную ўласнасць: «Іранічна, што статус-кво заключаецца ў тым, каб потым развярнуцца і навязаць абмежавальныя ўмовы на дыстыляцыю, адначасова пакідаючы за сабой права вучыцца на дадзеных аб выкарыстанні і ўзаемадзеянні кліентаў».
На думку генеральнага дырэктара Microsoft, у індустрыі ўзнік «Адваротны інфармацыйны парадокс». Калі раней прадавец рызыкаваў раскрыццём інфармацыі, каб прадаць яе, то ў эпоху ШІ рызыкуе ўжо пакупнік: бізнес вымушаны раскрываць свае сакрэты ШІ-боту, каб папросту карыстацца тэхналогіяй. Купляючы ШІ, кампаніі плацяць двойчы — грашыма і сваімі унікальнымі ведамі. Нейрасеткі незаўважна вучацца на «выхлапе» (exhaust) — промптах, выпраўленнях памылак і дзеяннях супрацоўнікаў, узурпуючы каштоўнасць.
«Калі навучанне ідзе толькі ў адным накірунку, эканамічная каштоўнасць збіраецца ва ўладальнікаў інфраструктуры навучання, а не ў стваральнікаў саміх ведаў», — папярэджвае Надэла.
Гендыр Microsoft патлумачыў, чаму ІІ не абясцэніць людзей, а наадварот
Business Insider адзначае, што гэты выпад Надэлы відавочна накіраваны супраць Anthropic. Раней яе генеральны дырэктар Дарыо Амадэі публічна скардзіўся, што кітайская Alibaba правяла супраць іх «найбуйнейшую дыстыляцыйную атаку», выкарыстоўваючы адказы Claude для хуткага і танага навучання сваіх ШІ-мадэляў. Ілан Маск таксама крытыкаваў Anthropic за тое, што яны самі масава кралі чужыя дадзеныя для навучання, выплачваючы потым мільярдныя кампенсацыі.
Каб бізнес не аддаваў сваю ідэнтычнасць вендарам накшталт Anthropic, Надэла заклікаў кампаніі будаваць «мяжу даверу» вакол свайго чалавечага і токеннага капіталу. Ён даў бізнесу 5 парадаў, як не страціць сябе:
Кантроль (Control): захоўваць за сабой валоданне гісторыяй промптаў, рашэнняў і ствараць унутраныя метрыкі ацэнкі.
Асяроддзе (Capability): давучваць мадэлі ў закрытым карпаратыўным контуры, каб дадзеныя не выцякалі вонкі.
Свабода выбару (Choice): адвязаць інфраструктуру ад аднаго вендара. Калі канкрэтную мадэль заберуць, назапашаны досвед кампаніі павінен застацца ўнутры.
Эканомія (Cost): незалежнасць ад аднаго ШІ-пастаўшчыка дазволіць камбінаваць розныя мадэлі пад канкрэтныя задачы максімальна танна без страты якасці.
Назапашванне (Compound): аб’яднанне гэтых крокаў створыць бесперапынны цыкл навучання, які будзе пастаянна капіталізаваць і памнажаць каштоўнасць кампаніі.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.