Anthropic otkrio kako će raditi Claudeov nevidljivi watermark: AI tekst dobija skriveni digitalni trag

Anthropic je objavio nove detalje o sistemu za označavanje tekstova koje generiše Claude. Watermark neće biti vidljiv korisniku niti će se zasnivati na skrivenim karakterima u tekstu – biće ugrađen u sam način na koji AI bira reči. Kompanija priprema i API pomoću kojeg će biti moguće proveravati prisustvo ovog digitalnog traga.

Kompanija Anthropic detaljnije je objasnila kako će funkcionisati novi sistem označavanja sadržaja koji generiše Claude, nakon što je najavila uvođenje mašinski čitljivih oznaka u skladu sa pravilima Evropske unije.

Najzanimljivija promena odnosi se upravo na tekst.

Za razliku od klasičnog watermarka koji možemo da zamislimo kao oznaku preko fotografije ili skriveni podatak unutar fajla, Claudeov watermark biće praktično neprimetan čoveku.

On će biti ugrađen u izbor reči koje model koristi prilikom generisanja odgovora.

Kako se može „sakriti“ watermark u običnom tekstu?

Veliki jezički modeli prilikom pisanja često imaju više mogućnosti da izraze praktično istu stvar.

Anthropic kao jednostavan primer navodi situaciju u kojoj model opisuje vreme. U određenom kontekstu mogao bi da izabere jednu od nekoliko reči koje prenose gotovo isto značenje.

Upravo takve odluke modela mogu da se koriste za stvaranje statističkog obrasca.

Claude će prilikom velikog broja takvih izbora stvarati određeni obrazac koji čitalac ne može da primeti, ali koji odgovarajući sistem sa potrebnim ključem može statistički da prepozna.

Drugim rečima, u tekst se ne ubacuje vidljiva oznaka „napisao AI“ – sam način izbora reči postaje oznaka.

Anthropic navodi da će koristiti pristup SynthID-Text, tehnologiju koju je Google DeepMind predstavio 2024. godine.

Za običnog čitaoca, prema navodima kompanije, tekst sa watermarkom trebalo bi da bude praktično nerazlučiv od teksta bez njega.

Copy-paste neće ukloniti oznaku

Ovakav pristup rešava jedan od najvećih problema tradicionalnih oznaka.

Ako bi watermark bio običan metadata podatak ili skriveni karakter, korisnik bi potencijalno mogao jednostavno da kopira tekst u drugi dokument i tako ukloni oznaku.

Kod statističkog watermarka to nije dovoljno.

Pošto je obrazac sadržan u samom izboru reči, kopiranje i lepljenje teksta zadržava isti jezički obrazac.

Ni manje izmene teksta, prema Anthropicovom objašnjenju, verovatno neće biti dovoljne da watermark potpuno nestane.

Situacija se menja ukoliko neko tekst temeljno preradi.

Može li watermark ipak da se ukloni?

Može.

Anthropic otvoreno priznaje ograničenje ove tehnologije.

Ako korisnik potpuno preformuliše tekst i zameni praktično sve reči, originalni statistički obrazac može da nestane.

Kompanija, međutim, postavlja zanimljivo pitanje: ako je AI tekst toliko temeljno prerađen da je gotovo svaka reč zamenjena, u kojoj meri se takav tekst uopšte još može smatrati sadržajem koji je direktno generisala veštačka inteligencija?

Watermark zato nije zamišljen kao neuništiva zaštita, već kao način da se utvrdi verovatnoća da je Claude učestvovao u stvaranju određenog teksta.

Šta ako Claude samo ispravi tekst koji je napisao čovek?

Ovo je posebno važno za ljude koji koriste AI kao lektora ili urednika.

Ako korisnik sam napiše tekst, a Claude samo ispravi nekoliko grešaka ili napravi manje stilske izmene, to ne znači automatski da će ceo dokument biti prepoznat kao Claudeov.

Anthropic objašnjava da rezultat zavisi od dužine teksta i obima intervencije modela.

Ako je gotovo sve reči napisao čovek, a Claude promenio samo mali deo sadržaja, postoji veoma malo prostora u kojem bi watermark mogao da bude ugrađen.

Što Claude više generiše ili prepravlja tekst, veća je količina sadržaja u kojoj statistički obrazac može da postoji.

A šta se dešava sa programskim kodom?

Situacija sa kodom je još zanimljivija.

Claude nema istu slobodu prilikom pisanja programskog koda kao prilikom sastavljanja običnog teksta.

Kod mora da funkcioniše.

Zbog toga model često nema deset različitih načina da napiše određenu instrukciju samo da bi napravio statistički obrazac.

Anthropic zato očekuje da watermark u programskom kodu bude znatno slabiji nego u klasičnom tekstu.

Ipak, postoje delovi koda gde model ima veću slobodu – na primer nazivi određenih elemenata ili komentari unutar koda. Na tim mestima watermark može da bude primenjen.

Kompanija tvrdi da sistem zbog toga treba da ima zanemarljiv uticaj na sam kod koji Claude proizvodi.

Anthropic priprema API za detekciju

Možda najvažniji detalj nove objave jeste da Anthropic planira da napravi API za detekciju watermarka.

To potencijalno otvara mnogo širu primenu tehnologije.

Škole, univerziteti, izdavači, medijske kompanije, platforme i drugi sistemi mogli bi jednog dana da proveravaju tekst i dobiju signal o tome da li sadrži Claudeov watermark.

Važno je, međutim, napraviti razliku između watermarka i klasičnih „AI detektora“.

Današnji AI detektori uglavnom analiziraju stil, strukturu rečenica i druge karakteristike teksta i na osnovu njih pokušavaju da procene da li je nešto napisao čovek ili AI.

Watermark funkcioniše drugačije.

On traži namerno ugrađen statistički signal koji je model ostavio tokom generisanja sadržaja.

Zato prepoznavanje watermarka nije isto što i nagađanje autora na osnovu stila pisanja.

Evropski AI Act ubrzava promenu

Anthropic ovu tehnologiju uvodi u okviru obaveza povezanih sa evropskim pravilima o transparentnosti AI sadržaja.

Kompanija je najavila da će novi Claude modeli koji potpadaju pod nova pravila podržavati označavanje AI sadržaja od samog početka, dok se podrška priprema i za ranije objavljene modele.

Promena pritom neće biti ograničena samo na korisnike u Evropskoj uniji.

Anthropic planira primenu sistema globalno.

Za generisane fajlove i podržane vizuelne formate kompanija koristiće i digitalno potpisane informacije o poreklu sadržaja zasnovane na standardu C2PA, dok će tekst koristiti drugačiji, statistički pristup.

AI tekst možda više neće biti potpuno „nevidljiv“

Uvođenje watermarka moglo bi značajno da promeni odnos prema sadržaju generisanom veštačkom inteligencijom.

Do sada je nakon običnog copy-paste postupka često bilo praktično nemoguće pouzdano dokazati da je konkretan tekst nastao pomoću određenog AI modela.

Sistem koji Anthropic razvija pokušava upravo to da promeni.

Istovremeno, tehnologija nije savršena. Temeljno prepisivanje, prevođenje ili dovoljno velika transformacija sadržaja mogu oslabiti ili ukloniti statistički signal, dok kratki tekstovi prirodno pružaju manje podataka za pouzdanu analizu.

Anthropic takođe navodi da neće biti jedini veliki proizvođač AI modela koji ide u ovom pravcu. I drugi veliki developeri modela potpisali su isti evropski Kodeks prakse i očekuje se da razvijaju sopstvene načine označavanja AI sadržaja.

Zbog toga bi 2026. godina mogla da označi početak velike promene: od interneta prepunog AI sadržaja čije je poreklo gotovo nemoguće utvrditi, ka sistemu u kojem će AI modeli ostavljati sopstveni, čoveku nevidljivi digitalni potpis.