Zaledwie kilka godzin po zapowiedzi Anthropica o dodawaniu niewidzialnych znaków wodnych do treści generowanej przez Claude'a, program iści zaczęli publikować potencjalne obejścia tego systemu. Znaki wodne miały być narzędziem do zgodności z nowymi unijnymi przepisami dotyczącymi AI-generowanej zawartości, jednak szybkość, z jaką pojawiły się pierwsze workaroundy, wskazuje na to, że zabezpieczenie będzie trudne do utrzymania.
Problem ujawnia głęboką sprzeczność w technologii AI. Z jednej strony firmy takie jak Anthropic starają się wprowadzać odpowiedzialne praktyki i spełniać regulacje, takie jak wymogi z Unii Europejskiej. Z drugiej strony, sama natura modeli opartych na dużych danych sprawia, że użytkownicy mogą znaleźć lub stworzyć zaawansowane techniki dezaktywacji takich zabezpieczeń. To przypomina klasyczną grę w kotka i myszkę między programistami a twórcami narzędzi bezpieczeństwa.
Sytuacja stawia Anthropica przed wyzwaniem: czy niewidzialne znaki wodne rzeczywiście mogą być efektywnym narzędziem regulacyjnym, czy też będą tylko fasadą zgodności? Wiadomość ta jest szczególnie ważna dla przyszłości regulacji AI, ponieważ pokazuje, że techniczne rozwiązania samej mogą nie wystarczyć do egzekwowania reguł gry. To może prowadzić do bardziej zaawansowanych metod śledzenia, lepszych protokołów weryfikacji lub całkowicie nowych podejść do compliance'u w branży AI.