Anthropic ogłosiła zaktualizowaną politykę użytkowania swoich usług, która wyraźnie zakazuje szeregu potencjalnie szkodliwych działań związanych z modelem Claude. Nowe zasady zabraniają powtarzających się nadużyć modelu w ekstremalnych przypadkach, choć zwykła frustracja i krytyka użytkowników pozostają dozwolone. Polityka obejmuje również zakazy dla ingerencji wyborczej, kampanii dezinformacyjnych, tworzenia oprogramowania do broni czy systemów nadzoru.
Decyzja wpisuje się w szerszą tendencję w branży AI polegającą na wzmacnianiu kontroli nad sposobem wykorzystywania zaawansowanych modeli. Anthropic dąży w ten sposób do zapobiegania potencjalnym zagrożeniom, od manipulacji politycznej poprzez rozpowszechnianie fałszywych informacji. Uaktualniona polityka wyznacza bardziej konkretne granice niż wcześniej, czyniąc oczekiwania wobec użytkowników jaśniejszymi i bardziej wdrażalnymi.
Ta zmiana ma znaczenie dla całej branży, ponieważ pokazuje, że dostawcy modeli AI przejmują aktywną rolę w kształtowaniu odpowiedzialnego użytkowania technologii. Choć może ograniczać niektóre zastosowania, może też wzmacniać zaufanie do platform oraz zmuszać konkurentów do przyjęcia podobnych stanowisk wobec bezpieczeństwa i etyki.