ШІ можа нас забіць. Але спачатку дапаможа нядрэнна зэканоміць на новай страхоўцы. Цікавая калонка выйшла ў Business Insider: гэта напамін пра тое, што за любымі наратывамі ІТ-кампаній стаяць схаваныя інтарэсы іх аўтараў. А не вашыя.
ШІ можа нас забіць. Але спачатку дапаможа нядрэнна зэканоміць на новай страхоўцы. Цікавая калонка выйшла ў Business Insider: гэта напамін пра тое, што за любымі наратывамі ІТ-кампаній стаяць схаваныя інтарэсы іх аўтараў. А не вашыя.
Прыкладна так, як у прыкладзе вышэй, выглядае дыскусія пра ШІ ў тэхнасвеце апошнія некалькі тыдняў. З аднаго боку — людзі, якія папярэджваюць пра пагрозу тэхналогіі для чалавецтва, а з другога — тыя, хто распавядае, як персанальныя ШІ-асістэнты ўжо мяняюць паўсядзённае жыццё.
У пачатку месяца з Anthropic сышоў даследчык са словамі пра тое, што ШІ-лабараторыі гуляюць з нашымі жыццямі, — і запусціў новую хвалю размоваў пра надыходзячую катастрофу. Пазней кіраўнік Anthropic Дарыё Амадэі, CEO OpenAI Сэм Альтман і кіраўнік xAI Ілан Маск пагадзіліся, што распрацоўку ШІ варта каардынавана запавольніць.
Але ўвага адразу ж пераключылася на процілеглы бок. Карыстальнікі пачалі наперабой хваліць персанальных ШІ-асістэнтаў — напрыклад, Instinct і Muse ад Meta. ШІ раптам не здаецца такім страшным, калі з яго дапамогай можна, напрыклад, выгадна купіць касцюм на Гэлаўін.
Практычна адначасова шырока абмяркоўваліся два дыяметральна процілеглыя вобразы будучыні: ШІ нас знішчыць і ШІ зробіць наша жыццё лепшым. Выданне нагадвае, што гэтыя паведамленні паходзяць ад розных груп, у якіх ёсць свае інтарэсы.
ШІ-індустрыя ўспрымаецца як адзіны арганізм, але насамрэч унутры яе мноства гульцоў з рознымі і часам канкуруючымі мэтамі.
Паказальна, што ці не гучней за ўсіх пра пагрозу ШІ крычаць кампаніі, якія самі распрацоўваюць магутнейшыя мадэлі. І час, у які яны пачалі заклікаць да запавольвання, таксама цяжка ігнараваць.
Anthropic і OpenAI — адныя з галоўных прыхільнікаў асцярожнага падыходу — імкнуцца заявіць пра сябе напярэдадні выхаду на біржу.
Найбуйнейшым ШІ-кампаніям каардынацыя тэмпаў распрацоўкі дае цалкам канкрэтныя перавагі. Гэта магчымасць уплываць на будучыя правілы гульні і фарміраваць рэгуляванне ў зручным для сябе кірунку. Акрамя таго, запавольванне дапаможа апраўдацца, калі рэальныя магчымасці мадэляў акажуцца сціплейшымі за абяцанні і чаканні.
Калі ўдзельнікі гонкі дамаўляюцца ехаць на адной хуткасці, гэта асабліва выгадна тым, хто ўжо наперадзе. А кампаніям, якія ў ролі тых, хто даганяе, такая дамоўленасць, наадварот, можа замінаць.
У тых, хто актыўна прасоўвае ШІ ў паўсядзённым жыцці, таксама ёсць уласныя інтарэсы.
Адзін з галоўных прыкладаў — Марк Цукерберг. Яшчэ да новай хвалі размоваў пра ШІ-апакаліпсіс кіраўнік Meta актыўна распавядаў пра перавагі тэхналогіі. У мінулым месяцы ён апублікаваў эсэ пад назвай «Будучыня належыць усім», дзе намаляваў даволі аптымістычную карціну свету з ШІ.
У той момант індустрыя перажывала чарговы рэпутацыйны крызіс праз незадаволенасці будаўніцтвам датацэнтраў. Цяпер жа ёсць уражанне, што Цукерберг адначасова рыхтаваў аўдыторыю да запуску ўласнага прадукту.
Для Meta Muse — яшчэ і чарговы этап шматгадовай спробы Цукерберга стварыць платформу-пасрэдніка паміж звычайнымі карыстальнікамі і кампаніямі, якія імкнуцца да іх дагрукацца. Гэта вельмі каштоўная пазіцыя: той, хто прыходзіць першым, атрымлівае магчымасць устанаўліваць свае правілы. Таму нядзіўна, што пакуль іншыя прапануюць збавіць хуткасць, Цукерберг гатовы ціснуць на газ.
Камерцыйныя інтарэсы тых, хто папярэджвае пра пагрозы ШІ, і тых, хто прадае аўдыторыі яго перавагі, самі па сабе не пазбаўляюць асновы іх аргументы. ШІ сапраўды нясе сур’ёзныя рызыкі, калі яго развіццё пакінуць без кантролю. Але адначасова тэхналогія можа прынесці вялікую карысць.
Галоўнае, адзначае выданне, — улічваць абодва бакі і, што яшчэ важней, разумець, хто і навошта фарміруе нашае ўспрыманне ШІ і будучыні з ім.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.