Anthropic далучылася да еўрапейскага кодэксу празрыстасці ШІ і цяпер абавязана маркіраваць увесь кантэнт, які генеруюць яе нейрасеткі. Усе новыя мадэлі, што запускаюцца ў ЕС пачынаючы з 2 жніўня, павінны атрымліваць «машыначытаную» маркіроўку проста ў дзень рэлізу. Кампанія ўжо працуе над тым, каб дадаць схаваныя пазнакі і ва ўсе раней выпушчаныя мадэлі.
Anthropic далучылася да еўрапейскага кодэксу празрыстасці ШІ і цяпер абавязана маркіраваць увесь кантэнт, які генеруюць яе нейрасеткі. Усе новыя мадэлі, што запускаюцца ў ЕС пачынаючы з 2 жніўня, павінны атрымліваць «машыначытаную» маркіроўку проста ў дзень рэлізу. Кампанія ўжо працуе над тым, каб дадаць схаваныя пазнакі і ва ўсе раней выпушчаныя мадэлі.
Каб ахапіць усе фарматы, Anthropic укараняе адразу два тыпы абароны — для тэксту і для файлаў.
Першы — нябачныя пазнакі проста ўнутры тэксту. Калі мадэль выдае адказ, яна літаральна ўплятае ў яго схаваны лічбавы след. Вокам яго не заўважыць: сэнс, якасць і чытэльнасць адказу не мяняюцца. Гэты знак зашыты на ўзроўні самой мадэлі, таму ён захаваецца пры капіраванні тэксту ў іншае месца ці пры нязначным рэдагаванні. Працуе гэта ўсюды — на сайце Claude, у сервісах Claude Code, Cowork, Tag, праз API і пры працы праз воблакі накшталт AWS, Google Cloud ці Microsoft.
Другі тып — лічбавыя подпісы ў файлах. Калі нейрасетка генеруе графіку ці дакументы накшталт PNG, JPG або SVG, яна прымацоўвае да іх метададзеныя паводле агульнагаліновага стандарту C2PA. Гэта электронны штамп, які пацвярджае, што файл прайшоў праз Claude, і дазваляе праверыць яго на прадмет старонніх правак.
Anthropic абяцае неўзабаве выпусціць інструменты, каб карыстальнікі і старонніе сервісы маглі лёгка правяраць тэксты і файлы на наяўнасць гэтых пазнак. Між тым распрацоўшчыкі сумленна прызнаюць, што ў сістэмы хапае абмежаванняў.
Наяўнасць пазнакі не азначае, што тэкст ад і да прыдумаў ШІ. Людзі часта просяць Claude перапісаць іх уласны тэкст, перакласці яго ці зрабіць вытрымкі. У гэтым выпадку пазнака з’явіцца, хоць зыходнік належыць чалавеку. Акрамя таго, кантэнт можа істотна змяніцца ўжо пасля апрацоўкі.
Адсутнасць пазнакі таксама мала пра што кажа. Яна можа не распазнацца, калі тэкст моцна перафразавалі, калі ўрывак занадта кароткі і пазнаку проста няма дзе схаваць, альбо калі мадэль выйшла да ўвядзення маркіроўкі. А ў выпадку з файламі метададзеныя лёгка счышчаюцца звычайным скрыншотам ці перазахаваннем у іншы фармат.
Anthropic таксама абяцае выпусціць падрабязныя тэхнічныя гайды для распрацоўшчыкаў, якія ўбудоўваюць Claude у свае прадукты, каб дапамагчы ім выконваць новыя законы аб празрыстасці ШІ.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.