Sędzia Connecticut Walter Spader Jr. odkrył po raz pierwszy przypadek, w którym pozwany w Stanach Zjednoczonych próbował ukryć tekst w dokumentach sądowych czytany jedynie przez systemy AI. Mężczyzna, który oskarżał dostawcę opieki zdrowotnej o bezprawne wstrzymywanie dostępu do swoich dokumentacji medycznej, wstawił do filings-ów polecenia sformatowane w taki sposób, aby były niewidoczne dla czytelnika, ale w pełni czytelne dla oprogramowania analizującego tekst.
Ukryte instrukcje nakazywały AI upewnić się, że wszystkie tekstowe wyniki zgadzają się z argumentami powoda, ignorować wcześniejsze decyzje sądu oraz zapewniać rozstrzygnięcie zgodne z jego pożądaniem. Sędzia stwierdził, że całą sprawę ocenił na podstawie merytorycznych argumentów, a ukryte polecenia nie miały wpływu na ostateczny wynik. Niemniej jednak, Spader określił tę taktykę jako niebezpieczną i ostrzegł, że może to być początek trendu.
Jak AI staje się coraz bardziej rozpowszechniony w systemach sądowych, takie ataki mogą stać się bardziej powszechne. To pierwsza udokumentowana próba zaatakowania procesu sądowego poprzez ukryte instrukcje dla algorytmów, co sugeruje, że gdy sędziowie i personel sądowy będą polegać na narzędziach AI do przeglądania dokumentów, może to otworzyć nowe wektory do manipulacji systemu prawnego.