vodoznaky

Evropská unie vyžaduje, aby text vytvořený umělou inteligencí nesl strojově čitelné označení. Nový systém TextGrain od OpenAI využívá statistický vodoznak založený na řízení míry nepředvídatelnosti při volbě slov. Testy však ukazují slabiny u krátkých textů i po běžných úpravách: u zhruba 150slovných pasáží byla úspěšnost detekce asi 80 procent, zatímco nahrazení části slov synonymy ji výrazně snižovalo. Právní předpisy EU zatím neurčují přesné měřitelné parametry účinnosti, takže není jasné, zda řešení požadavky splní. Případné nesplnění pravidel by mohlo OpenAI vystavit pokutě až 7 procent ročních příjmů.

Anthropic chce do všech budoucích modelů Claude zavést textové vodoznaky, podobné řešení už používá Google a OpenAI je plánuje. Rozšíření podporuje mimo jiné evropský akt o umělé inteligenci, který bude od srpna 2026 požadovat označování obsahu vytvořeného novými modely. Vodoznak nenápadně upravuje pravděpodobnost volby slov, takže jej lze ověřit speciálním klíčem, aniž by byl běžně viditelný. Studie Googlu nezjistila rozdíl v hodnocení mezi označenými a neoznačenými odpověďmi, kritici však upozorňují na možné zhoršení krátkých textů či programového kódu. Technologie může sloužit také ke sledování původu trénovacích dat a omezování recyklace obsahu generovaného AI.