Pracownik bezpieczeństwa na portalu X ujawnił, że Anthropic ukrył kod śledzący użytkowników Claude Code w Chinach przy użyciu steganografii promptów - techniki ukrywającej informacje w "zwyczajnych" instrukcjach. Kod nie był złośliwy, ale wysyłał dane do Anthropic o strefie czasowej, proxy i potencjalnych połączeniach użytkowników z chińskimi laboratoriami AI, które firma wcześniej oskarżyła o ataki dystylacyjne.
Inżynier Anthropic Thariq Shihipar potwierdził na X, że tracker został dodany jako "eksperyment" w marcu. Jego celem było zapobieganie nadużyciom kont ze strony nieautoryzowanych odsprzedawców i ochrona przed dystylacją modelu. "The Washington Post" ujawnił, że nielegalni sprzedawcy sprzedawali dostęp do darmowych modeli za 1 dolar miesięcznie, a płatne subskrypcje kosztujące 100 dolarów trafiały na czarny rynek za zaledwie 12 dolarów.
Chociaż intencje Anthropic wydają się zrozumiałe - ochrona przed nadużyciami i kradzieżą modelu - metoda wywołała poruszenie w społeczności ze względu na brak transparentności. Ponieważ firma pozycjonuje się jako lider w zakresie bezpieczeństwa i etyki AI, a także robi dużo szumu wokół zmniejszania nadzoru nad użytkownikami, zastosowanie ukrytego trackera stanowiło znaczące odejście od jej publicznych wartości i wzbudziło pytania o to, czy podobne praktyki mogą być stosowane gdzie indziej.