Французскі прадпрымальнік Гіём Мэер выпусціў адкрыты інструмент Watermarks Remover, які дапамагае выдаляць нябачныя ШІ-вотэрмаркі з тэксту і выяваў.
Французскі прадпрымальнік Гіём Мэер выпусціў адкрыты інструмент Watermarks Remover, які дапамагае выдаляць нябачныя ШІ-вотэрмаркі з тэксту і выяваў.
Ідэя з’явілася ў Мэера пасля таго, як Anthropic абвясціла пра ўкараненне нябачных вадзяных знакаў у тэксты Claude. Распрацоўшчык зацікавіўся тым, як працуе тэхналогія, і вырашыў праверыць, ці можна яе абыйсці. Першую версію інструмента ён сабраў прыкладна за пяць гадзін і выклаў на GitHub.
«Пасля майго другога паста ў X 11 жніўня праект узляцеў, і публікацыя набрала больш за 2 мільёны паказаў. Потым я заўважыў, што ён стаў вірусным яшчэ і ў LinkedIn ды іншых сацсетках. Я аказаўся зусім да гэтага не гатовы», — расказаў Мэер Business Insider.
Галоўная прэтэнзія распрацоўшчыка да ШІ-вотэрмарак Anthropic у тым, што яны будуюцца на статыстычных заканамернасцях выбару словаў. На ягоную думку, такая сістэма можа памылкова маркіраваць чалавечы тэкст як згенераваны ШІ.
«Калі даследчык выкарыстоўвае ШІ, каб змяніць адзін радок у канцы дзесяцістаронкавай працы, уся публікацыя патэнцыйна можа атрымаць адзнаку. Гэта можа ператварыцца ў кашмар для даверу», — лічыць праграміст.
У якасці іншага прыкладу ён прыводзіць Grammarly. Сам Мэер не з’яўляецца носьбітам англійскай і рэгулярна выкарыстоўвае сервіс для праверкі граматыкі і арфаграфіі. Паколькі падобныя інструменты таксама выкарыстоўваюць ШІ, у будучыні нават адрэдагаваны чалавекам тэкст тэарэтычна можа атрымаць ШІ-маркіроўку.
Watermarks Remover працуе за кошт невялікага змянення тэксту пры захаванні зыходнага сэнсу. Інструмент правярае матэрыял на наяўнасць вотэрмаркі, стварае варыяцыі фармулёвак і паўтарае працэс, пакуль статыстычны патэрн не перастае вызначацца. Для выяваў выкарыстоўваецца падобны падыход, толькі замест словаў мяняюцца пікселі.
Пры гэтым Мэер падкрэслівае, што інструмент пакуль далёкі ад ідэалу. «Людзі рэкламуюць яго так, нібы ён працуе бездакорна. Гэта не так. Гэта не праект, які можна зрабіць за адзін раз. Нам спатрэбяцца месяцы, і давядзецца ўносіць змены пасля таго, як Anthropic выпусціць свае дэтэктары», — тлумачыць ён.
Пасля ўсплёску папулярнасці да распрацоўкі далучыліся староннія ўдзельнікі open-source-супольнасці. Сам Мэер кажа, што першыя некалькі дзён фактычна працаваў над праектам поўны дзень.
Большасць паведамленняў, якія ён атрымлівае, станоўчыя, хоць частка карыстальнікаў крытыкуе саму ідэю выдалення маркіровак. «99,9% каментарыяў вельмі пазітыўныя. Астатнія 0,1% — нешта накшталт: „Я хачу ведаць, калі кантэнт створаны ШІ, а ты дрэнны чалавек“», — расказвае распрацоўшчык.
Мэер настойвае на тым, што не выступае супраць атрыбуцыі ШІ-кантэнту як такой. Ягоная крытыка датычыць менавіта абранай тэхналогіі. Паводле яго, Watermarks Remover прызначаны для працы з уласным кантэнтам і адукацыйных эксперыментаў, а не для выдачы чужых матэрыялаў за свае.
Цяпер прадпрымальнік думае і пра камерцыйную версію праекта. «Я прадпрымальнік, таму цалкам натуральна, што ў нейкі момант захачу ператварыць гэта ў бізнес. Пакуль я не ведаю як і калі, але, верагодна, гэта адбудзецца», — кажа ён.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.