ШІ-кампаніям не варта разлічваць на самарэгуляванне: яны рызыкуюць паўтарыць памылкі бігтэхаў, лічыць былая кіраўніца Федэральнай гандлёвай камісіі ЗША Ліна Хан.
ШІ-кампаніям не варта разлічваць на самарэгуляванне: яны рызыкуюць паўтарыць памылкі бігтэхаў, лічыць былая кіраўніца Федэральнай гандлёвай камісіі ЗША Ліна Хан.
«Мы ўжо бачылі, як спробы бігтэхаў рэгуляваць сябе правалiліся. Трэба памятаць, што адбылося дзесяць гадоў таму», — сказала Хан у інтэрв’ю ABC. Яна нагадала, як тэхнагіганты спрабавалі самастойна вырашаць праблемы ў першыя гады развіцця сацсетак, і гэта прывяло да «бясконцых праблем». Сённяшнім распрацоўшчыкам ШІ не варта паўтараць той жа сцэнарый.
Пасля запуску ChatGPT у 2022 годзе буйныя ІТ-кампаніі, у тым Microsoft, Google і Meta, актыўна ўключыліся ў гонку і ўлілі вялікія грошы ва ўласныя ШІ-сістэмы. Імклівае развіццё тэхналогіі прывяло да заклікаў увесці абмежаванні з боку палітыкаў, грамадскіх арганізацый і прадстаўнікоў самой індустрыі.
У мінулым месяцы кіраўнік Anthropic Дарыё Амадэі заклікаў калег не фарсіраваць распрацоўку перадавых ШІ-сістэм і падумаць над рэгуляваннем амерыканскіх кампаній, якія ствараюць такія сістэмы. Яго падтрымалі кіраўнікі OpenAI і xAI Сэм Альтман і Ілан Маск.
Адміністрацыя Дональда Трампа пакуль пазбягае рэгулявання ШІ-індустрыі. На мінулым тыдні прэзідэнт абвясціў, што кіраўнікі тэхнакампаній падпісалі пагадненне аб бяспецы ШІ і будуць рэгуляваць сябе самастойна.
Хан лічыць, што нават без новых адмымловых законаў для ШІ ужо існуюць нормы, якія дазваляюць змагацца з праблемамі ў гэтай сферы. Напрыклад, з інцыдэнтамі, калі ШІ-агенты ўзломвалі сістэмы іншых кампаній і дзяржаўных арганізацый. Яна лічыць дзіўным, што кіраўнікі ШІ-кампаній кажуць пра сваю бяссільнасць: «Яны фактычна ствараюць няспраўныя прадукты — ШІ-сістэмы, якія зноў і зноў узломваюць серверы іншых кампаній і ўрадаў, — і пры гэтым чамусь не могуць нічога істотнага з гэтым зрабіць», — сказала яна.
Хан назвала «цалкам смехатворнай» ідэю, што выкарыстанне новых тэхналогій вызваляе кампаніі ад дзеючых законаў. А тое, што кампаніі працягваюць распрацоўваць ШІ-агентаў нягледзячы на паўтаральныя небяспечныя інцыдэнты і не вызначаюць адэкватныя ахоўныя механізмы, «павінна выклікаць вельмі сур’ёзныя пытанні».
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.