Meta automatycznie usunęła konta Facebook i Instagram Camille Hanson z powodu rzekomo naruszenia zasad dotyczących oszustwa i deception. Kobieta prowadziła tam biznes nauczania angielskiego z prawie milionem zwolenników, a nagłe usunięcie kont stanowiło dla niej znaczną stratę biznesową.
Problematyczne jest to, że proces odwołania się również obsługuje sztuczna inteligencja. Po przegranym apelu złożonym przez Hanson ponownie rozpatrywanym przez AI, konto pozostało usunięte. Ta praktyka stanowi klasyczny przykład "robota sędziującego robota" - algorytm podejmuje decyzję o karze, a drugi algorytm rozpatruje odwołanie, bez realnego dostępu do człowieka, który mógłby przeprowadzić rzeczywistą przegląd sprawy.
Historia ta odzwierciedla szerszy problem w industriach technologicznych, gdzie miliardowe platformy społecznościowe opierają się na automatycznych systemach moderacji z ograniczoną możliwością odwołania się dla użytkowników. Błędy algorytmów mogą zniszczyć biznes małego przedsiębiorcy lub pracę osoby uzależnionej od swoich kont, a drogi naprawy pozostają niedostępne dla zwykłych ludzi.