Anthropic zapowiada dodawanie niewidocznych znaków wodnych do wszystkich tekstów i obrazów generowanych przez Claude. Wygenerowany tekst będzie zawierać wbudowane znaki wodne, a pliki będą opatrzone cyfrowo podpisanymi metadanymi pochodzenia tam, gdzie jest to możliwe. Te znaki są zupełnie niewidoczne dla oka, ale będą mogły być odczytane przez algorytmy i systemy detekcji.
Initjatywa wpisuje się w wysiłki Anthropic na rzecz zgodności z nowymi europejskimi regulacjami dotyczącymi przejrzystości sztucznej inteligencji. Unijne przepisy coraz bardziej wymagają od twórców modeli AI ujawniania, kiedy treść została wygenerowana przez machine learning. Znaki wodne mogą pomóc w zwalczaniu dezinformacji i manipulacji, ułatwiając platformom mediom społecznościowym i edytorom automatyczne identyfikowanie syntetycznej treści.
Anthropic uważa, że to rozwiązanie będzie ważne dla przyszłości zaufania do AI. Choć zmiany są już zapowiedziane, nie będą wprowadzane natychmiast - firma uważa to za przyszłe zobowiązanie. Inne firmy zajmujące się AI, takie jak OpenAI czy Google, już pracują nad podobnymi mechanizmami, a standaryzacja watermarkingu AI staje się kluczowym elementem regulacji branży.