Claude začne značit své texty. Co z neviditelného vodoznakuskutečně poznáme?

Zkopírujete text z Claude do dokumentu, pošlete ho e-mailem nebo vložíte na web. Na první pohled se nic nezmění. Přesto v něm může zůstat neviditelná stopa, podle které půjde později odhadnout, zda se na jeho vytvoření nebo zpracování podílel Claude.

‍

Anthropic totiž oznámil zavedení strojově čitelného označování výstupů u podporovaných modelů Claude. U textu půjde o neviditelný vodoznak, u podporovaných souborů, například obrázků, o digitálně podepsaná metadata.

‍

Pojem „vodoznak“ ale může vytvářet trochu špatnou představu. Claude nebude mezi písmena schovávat tajný kód ani speciální znaky. Vodoznak vzniká jiným způsobem a při běžném čtení ho vůbec nepoznáte.

Žádný tajný znak mezi písmeny

Jazykový model vytváří text postupně a při každém dalším kroku vybírá z několika možných pokračování. Někdy je vhodná možnost prakticky jen jedna, jindy může model zvolit mezi několika slovy, která jsou významově i stylisticky podobná.

‍

Anthropic ve svém vysvětlení textového vodoznaku popisuje, že právě tyto drobné volby lze využít k vytvoření statistického vzoru. V delším textu tak postupně vznikne stopa, kterou člověk nevidí, ale systém se správným klíčem ji může později detekovat. Použitý přístup vychází z technologie SynthID-Text od Google DeepMind.

‍

Kopírování textu do jiného dokumentu nebo editoru proto samo o sobě vodoznak neodstraní. Není totiž součástí formátování ani metadat souboru, ale samotné posloupnosti zvolených slov. Výraznější přepsání nebo parafráze už ale mohou signál oslabit nebo odstranit.

Vodoznak ale není důkaz autorství

Představte si, že napíšete článek sami a Claude ho pouze přeloží do angličtiny. Výsledný překlad generuje model slovo po slově, takže může obsahovat jeho vodoznak. To ale samozřejmě neznamená, že Claude přišel s původními myšlenkami nebo napsal český originál.

‍

Pokud naopak opraví jen několik překlepů nebo drobných gramatických chyb, jeho zásah může být příliš malý na to, aby vznikl dostatečně silný signál. Podobné omezení může nastat u krátkých textů, faktických pasáží nebo kódu, kde model nemá tolik možností vybírat mezi několika stejně vhodnými variantami.

‍

Creators' AI upozorňuje na zajímavý paradox. Člověk může většinu textu vytvořit sám a Claude požádat pouze o výraznější přepracování, takže výsledný vodoznak zůstane. Jiný člověk může nechat AI vytvořit první verzi, následně ji důkladně přepsat a stopa může být naopak výrazně slabší. Creators' AI celý princip podrobněji rozebírá zde.

‍

Technická značka tedy může něco říct o cestě, kterou text prošel. Sama ale nedokáže určit, kdo je jeho skutečným autorem.

‍

Anthropic ostatně upozorňuje, že pozitivní detekce má vyjadřovat pravděpodobnost, že Claude byl do vytvoření nebo zpracování textu zapojen. Neodliší jednoduše situaci „Claude to napsal“ od situace „Claude tento text výrazně upravil“. Vodoznak navíc nemá obsahovat informace o konkrétním uživateli, organizaci ani konverzaci.

Reakce? Zatím spíš otázky než nadšení

Oznámení neviditelného watermarkingu vyvolalo poměrně velkou online diskusi. Podle analýzy společnosti CARMA, kterou zveřejnil Marketing-Interactive, bylo 69,7 % sledovaných reakcí neutrálních, 25,1 % negativních a pouze 5,1 % pozitivních.

‍

Negativních reakcí tak bylo přibližně pětkrát více než pozitivních. Největší pozornost přitom nevzbuzovala jen samotná existence vodoznaku, ale také otázky kolem jeho odstranění, úprav textu, autorství a spolehlivosti budoucí detekce.

‍

CARMA se specializuje na media intelligence, monitoring a analýzu komunikace. Tato data tak především ukazují, jaké reakce a otázky novinka vyvolala v online prostoru, než aby hodnotila samotné technické řešení.

‍

AI Act se začíná propisovat přímo do AI produktů

Anthropic tuto technologii nezavádí jen jako vlastní experiment. Jedním z důvodů jsou také evropské požadavky na transparentnost AI obsahu. Firma patří mezi signatáře evropského Code of Practice on Transparency of AI-Generated Content a označování chce zavádět celosvětově. U podporovaných budoucích modelů Claude má být watermarking součástí systému od jejich uvedení, zatímco u starších modelů počítají evropská pravidla s přechodným obdobím.

‍

U textu má Claude používat statistický vodoznak. U podporovaných souborů, například PNG, JPG nebo SVG, funguje jiný mechanismus: Content Credentials založené na standardu C2PA. Ty mohou prostřednictvím kryptograficky podepsaných metadat zaznamenat, že byl soubor vytvořen nebo zpracován pomocí Claude.

‍

Je to velmi konkrétní ukázka toho, jak se regulace přesouvá z legislativních dokumentů přímo do produktů, které lidé a firmy každý den používají. Rozdíl mezi technickým označováním AI obsahu a povinností viditelně informovat uživatele jsme podrobněji rozebrali také v našem článku AI Act vstupuje do praxe: co se od 2. srpna mění pro firmy.

‍

Transparentnost AI tak postupně přestává být jen právním požadavkem a začíná se stávat technickou vlastností samotných AI systémů.

Veřejný detektor zatím chybí

Aby měl vodoznak skutečný praktický význam, musí samozřejmě existovat také způsob, jak ho ověřit. Anthropic zatím veřejný detektor nezpřístupnil. Firma plánuje vlastní watermark detection API, podrobnosti o jeho fungování ale zatím nezveřejnila. Běžný uživatel tedy dnes nemůže vložit libovolný odstavec do oficiálního nástroje Anthropicu a získat jednoduchou odpověď „Claude ano“ nebo „Claude ne“.

‍

Watermarking je také potřeba odlišit od klasických AI detektorů. Ty se často snaží podle stylu a dalších vlastností textu odhadnout, zda ho pravděpodobně vytvořila umělá inteligence. Detektor watermarku naopak hledá konkrétní statistickou stopu vytvořenou během generování.

‍

Ani pozitivní výsledek však nemá být definitivním důkazem autorství. Přesnější interpretace je mnohem opatrnější: Claude se na vytvoření nebo zpracování textu pravděpodobně podílel.

Pro firmy je nakonec důležitější něco jiného

V reálné práci už často neexistuje jednoduché rozdělení na „lidský text“ a „AI text“. Člověk může připravit základ a Claude ho přeloží. AI vytvoří první draft a zaměstnanec ho kompletně přepracuje. Model připraví rešerši, člověk doplní vlastní zkušenosti a editor celý text před publikací upraví.

‍

Vodoznak může být užitečným signálem původu obsahu, ale sám o sobě neřekne, kdo přišel s myšlenkou, kdo informace ověřil ani kdo převzal odpovědnost za finální výsledek.

Pro firmy proto podle nás nebude nejdůležitější kontrolovat každý odstavec a řešit, jestli v něm někde zůstala stopa po AI. Podstatnější bude mít jasno v tom, kde AI používáme, k čemu ji používáme, jak její výstupy kontrolujeme a kdo za ně nakonec odpovídá.

‍

Neviditelný vodoznak může ukázat, že se Claude někde po cestě zapojil. Celý příběh vzniku textu nám ale sám neřekne.