Кіраўнікі Nvidia Джэнсэн Хўан і Meta Марк Цукерберг выступілі супраць ідэі агульнага запавольвання развіцця ШІ. Яны лічаць, што кампаніі самі зацікаўленыя выпускаць бяспечныя мадэлі і могуць зніжаць тэмп, калі бачаць канкрэтныя рызыкі.
Кіраўнікі Nvidia Джэнсэн Хўан і Meta Марк Цукерберг выступілі супраць ідэі агульнага запавольвання развіцця ШІ. Яны лічаць, што кампаніі самі зацікаўленыя выпускаць бяспечныя мадэлі і могуць зніжаць тэмп, калі бачаць канкрэтныя рызыкі.
«Бяспека — гэта інжынерная праблема, а не юрыдычная», — заявіў Хўан на канферэнцыі Dreamforce. Паводле яго, ШІ застаецца складанай вылічальнай сістэмай, якую ствараюць людзі, таму для яе не трэба асобныя новыя законы.
Кіраўнік Nvidia лічыць, што галоўным абмежавальнікам павінен быць рынак: калі кампанія не ўпэўнена ў бяспецы прадукту, яна не павінна яго выпускаць.
«Рынкавыя механізмы ўжо існуюць. Нам не трэба новыя законы. Нам не трэба новае рэгуляванне», — сказаў Хўан. Пры гэтым ён дапусціў паўзу, калі распрацоўшчык адчуе, што сітуацыя выходзіць з-пад кантролю: «Бяжыце настолькі хутка, наколькі можаце. Але калі ў нейкі момант кампанія губляе кантроль або прадукт можа аказацца небяспечным — спыніцеся і разбярыцеся».
Падобную пазіцыю заняў Марк Цукерберг. Ён заявіў, што канкурэнцыя і рызыка юрыдычнай адказнасці ўжо даюць ШІ-кампаніям дастаткова стымулаў займацца бяспекай самастойна.
«Давер і выраўноўванне хутка становяцца найважнейшымі характарыстыкамі, па якіх будуць адрознівацца агенты і мадэлі. Любая лабараторыя, якая не займаецца выраўноўваннем, адстане», — напісаў Цукерберг.
У якасці прыкладу ён прывёў Meta: кампанія раней адклала выпуск ШІ-агента Muse, каб узмацніць яго абарону. «Мы не патрабавалі, каб усе астатнія зрабілі тое ж самае. Мы папросту зрабілі гэта самі, таму што гэта было правільна і для людзей, і для нас», — заявіў ён.
Пазіцыі Хўана і Цукерберга адрозніваюцца ад прапановы Дарыё Амадэі. Кіраўнік Anthropic заклікаў індустрыю запаволіць тэмпы паляпшэння найбольш магутных мадэляў праз рызыку рэкурсіўнага самаўдасканалення ШІ. Сэм Альтман і Ілан Маск публічна падтрымалі яго заклік.
Пры гэтым спрэчка ідзе не толькі пра хуткасць развіцця, але і пра спосаб кантролю. Амадэі прапануе каардынацыю паміж найбуйнейшымі лабараторыямі, тады як Хўан робіць стаўку на існуючыя законы і рынак, а Цукерберг — на адказнасць кожнай кампаніі і незалежнае тэсціраванне мадэляў.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.