ШІ-агенты ствараюць новую эканоміку, але рызыкуюць абрынуць яе за секунды

Паводле ацэнак даследчыкаў, ужо да 2030 года колькасць актыўных ШІ-агентаў перавысіць 1 мільярд, і яны будуць здзяйсняць мільёны ўгодаў у секунду. Гаворка ідзе не толькі пра чат-ботаў, але і пра сістэмы, здольныя весці перамовы, размяркоўваць рэсурсы і ўзаемадзейнічаць з іншымі агентамі без удзелу чалавека.

Рынак персанальных ШІ-асістэнтаў, якія стануць адным з першых драйвераў гэтых эканомік, ужо ацэньваецца ў $40 мільярдаў, а да 2032 года можа перавысіць $150 мільярдаў.

Аўтары адзначаюць, што ўкараненне агентных эканомік здольна паскорыць навуковыя адкрыцці і павысіць эфектыўнасць лабараторый на дзясяткі працэнтаў. У прамысловасці і лагістыцы эканомія можа дасягаць 20–30% выдаткаў, паколькі агенты змогуць аўтаматычна размяркоўваць задачы паміж сабой.

Акрамя таго, такія сістэмы могуць легчы ў аснову так званых «місійных эканомік», накіраваных на вырашэнне глабальных задач — ад змены клімату да аховы здароўя. Па доўгатэрміновых прагнозах, да 2035 года ўнёсак ШІ-эканомік у сусветны ВУП складзе 5–7%, што эквівалентна $5–7 трыльёнаў.

Пры гэтым даследчыкі папярэджваюць пра сур’ёзныя пагрозы. Адной з ключавых рызык стане лічбавая няроўнасць: карыстальнікі з больш магутнымі ШІ-асістэнтамі будуць дамагацца лепшых умоў. Эксперыменты паказалі, што «моцныя» агенты дабіваюцца да 40% больш выгадных угодаў, чым слабыя.

Таксама існуе пагроза «высокачастотных перамоваў» ШІ (HFN), аналагічных алгарытмічнаму гандлю. Навукоўцы праводзяць паралель з Flash Crach 2010 года, калі аўтаматызаваныя алгарытмы абвалілі фондавы рынак за хвіліны. Калі падобны збой адбудзецца ў пранікальнай ШІ-эканоміцы, страты могуць вылічвацца трыльёнамі даляраў і закрануць рэальны сектар.

Каб мінімізаваць рызыкі, даследчыкі прапануюць укараняць віртуальныя валюты для ШІ-агентаў, часткова ізаляваныя ад рэальнай эканомікі; выкарыстоўваць аўкцыённыя механізмы для справядлівага размеркавання рэсурсаў; развіваць рэпутацыйныя сістэмы і лічбавыя пасведчанні, якія дапамогуць праверыць надзейнасць агентаў; таксама спалучаць тэхналагічныя меры з прававым рэгуляваннем.