Zatímco dosud byla detekce AI textu spíše loterií postavenou na odhadování pravděpodobnosti slov, tentokrát jde o přímý matematický zásah do generování vět. Pokud tvoříš obsah pro klienty, spravuješ firemní blog nebo píšeš příspěvky na sítě, měl*a bys přesně vědět, co se u tvého oblíbeného nástroje děje a jak moc se tě tato změna reálně dotkne.

Jak funguje neviditelná metoda textGrain

Možná si pod pojmem vodoznak představíš skrytý znak, speciální mezeru nebo vizuální kód, který stačí smazat jedním stiskem klávesy Backspace. Realita je ale mnohem sofistikovanější. SpolečnostOpenAI představila technickou zprávu k metodě nazvané textGrain, na které spolupracovala s výzkumníky z univerzit University of Pennsylvania a Yale. Tato technologie nevkládá do textu žádné neviditelné symboly ani skryté formátování, ale zasahuje přímo do samotného výběru slov.

Když jazykový model skládá větu, vybírá následující slovo z celé řady pravděpodobných možností. Systém textGrain využívá tajný kryptografický klíč, pomocí kterého tyto pravděpodobnosti nepatrně přeskládá. Text tak zní pro lidského čtenáře naprosto přirozeně a zachovává si původní smysl i kvalitu, ale nese v sobě specifický matematický vzorec. Když se stovky těchto drobných posunů poskládají dohromady, speciální detektor dokáže s pomocí zmíněného klíče potvrdit, že text složil konkrétní model.

Protože je vodoznak vetkaný přímo do samotných slov a struktury vět, přenáší se dál i ve chvíli, kdy text jednoduše zkopíruješ a vložíš do jiného editoru. Nejde o žádný metadatový tag v souboru, který by se ztratil při přenosu do čistého textového pole. Podle vyjádření OpenAI tento zásah nijak nesnižuje výkon modelů a navíc neobsahuje žádné identifikační údaje o konkrétním uživateli, takže tvůj účet zůstává anonymní.

Pravidla platí jen pro někoho

Nové opatření se netýká celého světa plošně. Společnost OpenAI potvrdila, že vodoznaky v textu zavádí jako výchozí standard pouze pro uživatele v Evropské unii, a to napříč všemi dostupnými tarify pro ChatGPT i Codex. Uživatelé mimo evropský prostor zatím generují texty bez těchto matematických vzorců, protože globální nasazení firma v tuto chvíli neplánuje.

Odlišná pravidla platí také pro vývojáře, kteří staví vlastní aplikace na programovém rozhraní. Vývojáři využívající API od OpenAI kdekoli na světě dostávají možnost vodoznaky zapnout pro vybrané modely dobrovolně, přičemž ve výchozím nastavení zůstává funkce vypnutá. To vytváří zajímavý kontrast mezi běžným webovým rozhraním a nástroji třetích stran, které modely integrují na pozadí.

Krok přichází dva měsíce poté, co konkurenční společnost Anthropic oznámila celosvětové zavedení vodoznaků pro svůj model Claude. Její rozhodnutí tehdy vyvolalo vlnu kritiky od tvůrců, kteří argumentovali tím, že dodávají vlastní nápady, kontext a strategická rozhodnutí, zatímco model je pouhým nástrojem. OpenAI technologii vodoznaků vyvíjela delší dobu, ale s jejím nasazením vyčkávala mimo jiné kvůli obavám, že by uživatelé mohli hromadně přejít ke konkurenci, která texty neoznačuje.

Kde naráží spolehlivost detekce v praxi

Znamená to, že odteď každý pozná, že ti s textem pomáhala umělá inteligence? Vůbec ne. Samotná OpenAI ve své zprávě otevřeně popisuje limity celé technologie. Testy ukázaly, že jakmile do textu vstoupí lidský zásah, spolehlivost detekce prudce klesá. V jednom z publikovaných testů stačilo nahradit pouhých 10 % slov jejich synonymy a úspěšnost detekce se propadla z původních 92 % na 66 %.

Systém má navíc velké potíže s krátkými textovými úseky, matematickými odpověďmi nebo přeloženým obsahem. Pokud necháš model vygenerovat dvě věty nebo technický vzorec, matematický vzorec se v tak malém vzorku zkrátka nestihne projevit. OpenAI proto výslovně varuje, že absence vodoznaku automaticky nedokazuje lidské autorství, protože text mohl být výrazně upraven, zkrácen nebo vytvořen jiným konkurenčním modelem.

Vodoznak dokáže prokázat pouze to, že systém od OpenAI vygeneroval nebo zpracoval určitou část textu. Nedokáže ale nijak vyhodnotit, kolik lidského úsudku, kreativních úprav, rešerší a vlastního přemýšlení jsi do výsledného díla vložil*a.

Kdo bude mít k ověřovacím nástrojům přístup

Možná tě napadlo, zda si teď každý klient nebo čtenář může tvůj text zkontrolovat na jedno kliknutí. V této fázi nic takového nehrozí. OpenAI se rozhodla poskytnout přístup k samotnému detektoru výhradně schváleným výzkumníkům a specializovaným odborným organizacím. Cílem této uzavřené fáze je otestovat spolehlivost nástroje v reálném provozu a vyhodnotit jeho odpovědné využívání.

Běžná veřejnost ani koncoví tvůrci tak nemají k dispozici žádný oficiální formulář, kam by text vložili a ověřili přítomnost vzorce textGrain. Pro tvůrčí praxi to přináší jasné ponaučení. Pokud používáš generátory jako pouhý kopírovací stroj na celé odstavce, dříve či později narazíš na technologické i legislativní mantinely. Pokud ale bereš modely jako asistenta pro strukturu, brainstorming a první drafty, které následně sám*sama přepíšeš, obohatíš o vlastní myšlenky a zedituješ, tvůj rukopis zůstane nepřehlédnutelný.