Niebawem wszystkie znane narzędzia AI zaczną dodawać w niewidoczne dla ludzi znaki do generowanych przez siebie odpowiedzi (zarówno tekstu, obrazów jak i kodu). Te tzw. znaki wodne (ang. “watermark”) to nie będą niewidzialne znaki Unicode, czy “mdashe” porozstawiane w odpowiednich miejscach ;) Anthropic, twórca Claude już opisał, jak zamierza to robić — i dlaczego musi to robić.Claude zostawi w odpowiedziach ślady, ujawniające że z niego skorzystałeś na 2 sposobyAnthropic potwierdził, że modele Claude wprowadzone w UE po 2 sierpnia 2026r. albo później będą obsługiwać “maszynowo odczytywalne oznaczenia”. Niewidoczny watermark trafi do całego tekstu odpowiedzi zarówno z aplikacji Claude Code/Cowork, jak również API i będzie też dodawany jeśli z modeli Anthropica ktoś będzie korzystał od innego dostawcy. Starsze modele są dopiero dostosowywane do tego wymogu, więc nie jest prawdą, że dziś “każda dodpowiedź Claude’a już jest znakowany”.Powyższa ilustracja została syntetycznie wygenerowana z wykorzystaniem sieci neuronowej podczas procesu inferencji modelu generatywnego typu text-to-imageAnthropic wdraża dwa mechanizmy. Generowany tekst otrzymuje na poziomie modelu znak, który przechodzi przez kopiuj-wklej i może przetrwać część edycji. Generowana grafika (PNG, JPG i SVG) dostaje natomiast podpisane metadane pochodzenia C2PA. Podpis informuje, że plik {prze,s}tworzył Claude, ale może zniknąć po konwersji, ponownym zapisaniu lub wykonaniu zrzutu ekranu.Nie szukaj niewidzialnych znaków — to na nic!Anthropic nie ujawnił szczegółów technicznego mechanizmu watermarku. Nie ma więc podstaw, by twierdzić, że są to “niewidoczne znaki Unicode” usuwalne prostym parserem. Alex Cui, osoba, która o watermarkingu wie sporo, przypuszcza, że chodzi o metody podobne do KGW: W dużym uproszczeniu, chodzi o podział (kolejnych możliwych do zwrócenia przez model) tokenów na np. 2 pseudolosowe zbiory (wyznaczone na podstawie poprzednio zwróconych tokenów), a następnie lekkie (ale zauważalne przez detektor) premiowanie doboru tokenów z jednego ze zbiorów. Wtedy wykrycie użycia AI sprowadza się do weryfikacji, czy uprzywilejowane tokeny pojawiają się podejrzanie często. Tu praca naukowa dotycząca fingerprintingu LLMTo rozsądna, ale niepotwierdzona przez Anthropic hipoteza. Takie znakowanie jest wykonalne na produkcji i przykładowo Google stosuje SynthID-Text w Gemini: metoda modyfikuje etap wyboru kolejnego tokenu, ale nie trening modelu. W badaniu obejmującym około 20M odpowiedzi nie wykryto istotnego statystycznie spadku ocen jakości, choć autorzy opisują kompromis między wykrywalnością, jakością i różnorodnością odpowiedzi. To także dowód, że watermark nie musi być charakterystycznym słowem, manierą stylistyczną ani niewidocznym unicodem.Problemy znakowania.Wykryty watermark ma oznaczać najwyżej, że treść mogła zostać przetworzona przez Claude’a. Przetworzona nie oznacza jednak to samo co stworzonaCzłowiek mógł napisać tekst samodzielnie, a Claude tylko go przetłumaczył, streścił albo poprawił/zredagował. I od razu problem drugi: brak śladu nie dowodzi ludzkiego autorstwa. Bo watermark może zniknąć po silnej parafrazie, tłumaczeniu, połączeniu z innym tekstem, skróceniu lub użyciu starszego modelu do redakcji tekstu wyplutego z nowszego modelu. Warto też dodać, że Anthropic nie udostępnił jeszcze publicznego detektora i dopiero zapowiadaPytaniem otwartym pozostaje, czy np. szkoły, uczelnie, pracodawcy powinny traktować wyniki ew. detektora jako automatycznego wyroku. Już teraz jest wielu “ekspertów”, których (błędnych) ocen sami doświadczamy. Twierdzą oni z całą pewnością, że dana treść została wygenerowana przez AI na bazie im tylko znanych przesłanek lub ze w względu na fakt, że ktoś potrafi użyć w tekście półpauzy albo odpowiedni cudzysłów. Prowadzi to do patologii, w której …piętnuje się poprawne korzystanie z języka tylko dlatego, że modele AI — wyszkolone przecież w dużej mierze na poprawnych tekstach — stosują zasady gramatyki i ortografii. Znane są nam już teraz przypadki osób, które do tekstów zwracanych z AI celowo dodają literówki, aby (fałszywie) “podkreślić ludzkość” tekstu :D O ile z powyższych podejść można i należy się śmiać. To prawdą jest, że niektórzy mają ten “siódmy zmysł” pozwalający im wykryć, że ktoś wspierał się modelem AI w tworzeniu treści. Jest kilka konstrukcji, które w j. polskim nie są popularne, ale z jakiegoś powodu są Polakom przez “czatboty” zwracane. To nie przypadek, to ułatwienie! — przynajmniej dla niektórych #pdk ;)Powodem zmian wymogi UEA komu to potrzebne zapytacie? No więc Unii. Bo powodem wdrożenia znakowania treści zwracanych przez modele (tak, czeka to wszystkie firmy, nie tylko Anthropica) jest art. 50 AI Act, stosowany właśnie od 2 sierpnia 2026r. Dostawcy generatywnej AI mają zapewnić maszynowo odczytywalne oznaczenia treści. O ile kodeks dobrych praktyk jest dobrowolny, to sam obowiązek prawny już nie. Dla systemów wprowadzonych wcześniej przewidziano okres przejściowy do 2 grudnia 2026r. Unijne wytyczne wyłączają z obowiązku m.in. kod źródłowy, krótkie ciągi znaków i standardową edycję, chociaż kod źródłowy można bez strat dot. jakości znakować w obszarze nieistotnym, jak np. nazwy zmiennych. Co więcej, niektórych treści stworzonych nawet w 100% z AI nie trzeba — zgodnie z unijnymi wymogami — w ogóle znakować. Np. tekst o sprawach publicznych nie wymaga takiego oznaczenia, jeśli przeszedł rzeczywistą kontrolę merytoryczną/redakcyjną i ktoś bierze za niego odpowiedzialność. Tak samo grafiki, które na pierwszy rzut oka są “nierealne” (np. latające słonie) nie muszą być znakowane, nawet jeśli zostały wygenerowane z AI. Bo generalnie celem znakowania treści stworzonych przez AI jest to, aby nie wprowadzać ludzi w błąd i nie udawać. Dlatego niezweryfikowane wyniki badań naukowych czy porad zdrowotnych opracowane przez AI nie są OK. Nieoznakowane deepfejki też. Ale wygenerowana syntetycznie grafika ilustrująca artykuł prasowy, zawierająca “nierealistyczne elementy” jest jak najbardziej OK — nawet jeśli byśmy jej w tym tekście tak nie oznaczyli.