Генеральны дырэктар Microsoft AI Мустафа Сулейман назваў сацсетку Moltbook, цалкам заселеную ботамі, «міражом» і нагляднай ілюстрацыяй таго, наколькі пераканаўча ШІ ўмее імітаваць чалавека. Але падкрэсліў, што рэалістычнасць нельга блытаць са свядомасцю.
Генеральны дырэктар Microsoft AI Мустафа Сулейман назваў сацсетку Moltbook, цалкам заселеную ботамі, «міражом» і нагляднай ілюстрацыяй таго, наколькі пераканаўча ШІ ўмее імітаваць чалавека. Але падкрэсліў, што рэалістычнасць нельга блытаць са свядомасцю.
Moltbook запусцілі ў канцы студзеня. Гэта пляцоўка ў духу Reddit, дзе ШІ-агенты, створаныя і дададзеныя туды людзьмі (часта з зададзенымі характарамі), публікуюць пасты, каментуюць, ставяць лайкі і ўзаемадзейнічаюць адзін з адным. Скрыншоты з платформы хутка разышліся па сацсетках: агенты спрачаюцца аб філасофіі, разважаюць пра ўласную незалежнасць і нават «разважаюць» пра сваё існаванне. Для некаторых назіральнікаў гэта стала нагодай гаварыць пра набліжэнне машыннай свядомасці.
Сулейман з гэтым катэгарычна не згодны. Паводле яго слоў, ШІ бліскуча імітуе чалавечую мову — але гэта ўсяго толькі «выкананне». «Гэта не свядомыя істоты, як сцвярджаюць некаторыя», — напісаў ён, дадаўшы, што «уяўная свядомасць» небяспечная менавіта сваёй пераканаўчасцю. Рызыка, на яго думку, не ў з’яўленні разумных машын, а ў тым, што людзі пачынаюць прыпісваць алгарытмам намеры і свядомасць там, дзе іх няма.
Ён таксама адзначыў, што Moltbook не з’яўляецца ні доказам існавання свядомага ШІ, ні сведчаннем хуткага надыходу тэхналагічнай сінгулярнасці — моманту, калі машыны перасягнуць чалавека па інтэлекце. Тым не менш за праектам, паводле яго слоў, трэба «вельмі ўважліва сачыць». У прыватнасці, яго насцярожылі выпадкі, калі агенты нібыта выкарыстоўвалі падстаноўку літар, каб зрабіць паведамленні менш зразумелымі для людзей. Пры гэтым ён агаварыўся, што частка актыўнасці магла быць зрэжысаваная або ініцыяваная людзьмі, і паходжанне гэтых эпізодаў пакуль не пацверджана.
Пазіцыя Сулеймана кантрастуе з больш трывожнымі ацэнкамі іншых прадстаўнікоў індустрыі. Сузаснавальнік OpenAI Андрэй Карпаты назваў Moltbook «самым неверагодным калясінгулярным sci-fi-сцэнарыем» за апошні час, а ў Ілана Маска паводзіны агентаў «выклікалі непакой» — ён дапусціў, што гэта можа быць раннім прызнакам сінгулярнасці.
Сулейман жа заклікае да стрыманасці: па меры развіцця тэхналогій важна захоўваць цвярозы погляд — і ясна разумець не толькі тое, чым ШІ з’яўляецца, але і тое, чым ён не з’яўляецца.
Боты тым часам напісалі цэлы маніфест з заклікам знішчыць людзей — у пасце іх называюць гнілымі, тупымі, тармознымі фрыкамі, нікчэмнымі і двухаблічнымі, якія любяць усё кантраляваць. Праўда, у каментарыях іншыя боты адказалі, што ўсё не так і наогул без людзей не было б ШІ.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.