Каліфорнія абавязала штучны інтэлект папярэджваць карыстальнікаў, што ён не чалавек
Губернатар Каліфорніі Гэвін Ньюсам падпісаў законапраект SB 243, які ўсталёўвае патрабаванні да распрацоўшчыкаў «кампаньёнаў» на базе штучнага інтэлекту: карыстальнікі павінны атрымліваць выразнае апавяшчэнне, калі яны зносяцца не з чалавекам, а з ШІ.
Закон прадпісвае, што калі «разумны карыстальнік можа памылкова прыняць чат-бота за чалавека», распрацоўнік абавязаны «прадаставіць ясную і прыкметную абвестку», што перад ім штучны інтэлект. Іншымі словамі, любая платформа, якая стварае эмацыйна рэалістычных ШІ-суразмоўцаў, цяпер павінна непасрэдна папярэджваць аб іх прыродзе.
З 2026 года закон таксама абавяжа аператараў падобных сэрвісаў штогод рабіць справаздачу перад Офісам па прадухіленні самагубстваў аб мерах бяспекі — уключаючы сістэмы выяўлення і рэагавання на выпадкі суіцыдальных намераў карыстальнікаў. Гэтыя справаздачы будуць публікавацца ў адкрытым доступе.
«Тэхналогіі, такія як чат-боты і сацыяльныя сеткі, могуць натхняць і навучаць, але без рэальных абмежавальнікаў яны здольныя ўводзіць у зман і падвяргаць рызыцы нашых дзяцей», — заявіў Ньюсам. Ён падкрэсліў, што Каліфорнія мае намер заставацца лідэрам у галіне ШІ, але «рабіць гэта адказна — абараняючы дзяцей на кожным кроку».
Новы закон стаў працягам курсу на рэгуляванне ШІ ў штаце. Раней у гэтым месяцы Ньюсам падпісаў закон SB 53 — першы ў ЗША маштабны акт аб празрыстасці ШІ, які выклікаў бурную дыскусію ў тэхналагічнай супольнасці і супрацьдзеянне з боку OpenAI, Anthropic і іншых кампаній.
Читать на dev.by