Кіраўнікі ІТ-гігантаў спыталі ў гендырэктара Anthropic, навошта ён палохае ўсіх штучным інтэлектам
Пасля публічнага подпісу дэкларацыі аб прынцыпах бяспекі ШІ кіраўнікі вядучых тэхкампаній сфатаграфаваліся вакол Дональда Трампа, дэманструючы адзінства індустрыі. Але, як паведамляе Wall Street Journal са спасылкай на крыніцы, за зачыненымі дзвярыма Белага дома між топ-менеджарамі адбылася размова: глава Nvidia Джэнсэн Хўан ды іншыя кіраўнікі запыталі ў СЕО Anthropic Дарыё Амадэі, чаму ён выступае з настолькі радыкальнымі заявамі пра магчымасці ШІ і рызыкі развіцця тэхналогіі.
Пасля публічнага подпісу дэкларацыі аб прынцыпах бяспекі ШІ кіраўнікі вядучых тэхкампаній сфатаграфаваліся вакол Дональда Трампа, дэманструючы адзінства індустрыі. Але, як паведамляе Wall Street Journal са спасылкай на крыніцы, за зачыненымі дзвярыма Белага дома між топ-менеджарамі адбылася размова: глава Nvidia Джэнсэн Хўан ды іншыя кіраўнікі запыталі ў СЕО Anthropic Дарыё Амадэі, чаму ён выступае з настолькі радыкальнымі заявамі пра магчымасці ШІ і рызыкі развіцця тэхналогіі.
Амадэі адказаў, што кампаніям важна сумленна размаўляць з грамадствам пра рызыкі, а не змяншаць іх.
Гэтыя роспыты выяўляюць схаваныя супярэчнасці, якія могуць перашкодзіць планам сектара ў саморэгуляванні. Амадэі раней крытыкаваў канкурэнтаў за замоўчванне праблем бяспекі і папярэджваў пра рызыкі кібератак і масавага беспрацоўя праз ШІ. Пры гэтым Anthropic імкнецца наладзіць адносіны з адміністрацыяй Белага дома перад выхадам на IPO з мэтавай ацэнкай у $2 трлн. Раней кампанія перажыла два складаныя эпізоды ва ўзаемаадносінах з уладамі: амаль трохтыднёвае прыпыненне працы двух сваіх мадэляў праз пытанні бяспекі і ўнясенне ў чорны спіс Пентагона праз спрэчкі пра выкарыстанне ШІ ваеннымі.
Подпісаным у аўторак прынцыпам папярэднічалі шматмесячныя абмеркаванні таго, як прадухіліць кібератакі з выкарыстаннем ШІ пасля выхаду мадэляў узроўню Mythos ад Anthropic. Першапачаткова Anthropic, OpenAI і Google падтрымлівалі стварэнне незалежнай саморэгулюемай арганізацыі па аналогіі з фінансавым рэгулятарам FINRA, якая займалася б вонкавым тэсціраваннем і праверкамі мадэляў. Аднак Марк Цукерберг, Джэнсэн Хўан ды Ілан Маск пераканалі Трампа адмовіцца ад гэтай ідэі, заявіўшы, што яна сканцэнтруе занадта шмат улады ў руках некалькіх кампаній.
У выніку быў узгоднены падыход з мяккім рэгуляваннем. Ключавую ролю ў падрыхтоўцы выніковых прынцыпаў адыграў Марк Цукерберг, які ўзаемадзейнічаў з адміністрацыяй і міністрам гандлю Говардам Латнікам. Калі Амадэі за абедам зноў падняў тэму бяспекі, менавіта Цукерберг адзначыў, што найлепшым спосабам вырашэння гэтых праблем стане выкананне прынятых галіновых прынцыпаў.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.