26 aktualnych i byłych pracowników Mety wniosło pozew federalny zarzucając firmie wykorzystanie systemów opartych na AI do dyskryminacyjnego wyboru kandydatów do zwolnień. Pozew złożony w poniedziałek w sądzie w Oakland w Kalifornii konkretnie twierdzi, że Meta polegała na metrykach produktywności i danych użycia tokenów AI jako kryterium selekcji pracowników w trakcie masowych redukcji zatrudnienia, przy czym systemy te miały disproporcjonalnie celować w pracowników z niepełnosprawnościami i tych przebywających na urlopach zdrowotnych.
Zgodnie z pozwem Meta nie przeprowadziła odpowiedniego przeglądu ani walidacji swoich algorytmów pod kątem potencjalnych uprzedzeń lub dyskryminacyjnych skutków. Pracownicy na urlopach zdrowotnych czy z niepełnosprawnościami mogą naturalnie wykazywać niższą produktywność lub mniejsze użycie tokenów AI, co mogłoby prowadzić do ich niesprawiedliwego wybrania do zwolnień. Pozew podnosi szerszą kwestię odpowiedzialności firm technologicznych za algorytmiczne decyzje dotyczące zatrudnienia i wskazuje na rzeczywisty problem - gdy AI jest używane bez nadzoru i walidacji, może wzmacniać istniejące uprzedzenia systemowe.
Sprawa ma potencjał aby ustawić precedens w zakresie wymogów przejrzystości i bezstronności AI w podejmowaniu decyzji personalnych. Szczególnie istotna jest data złożenia pozwu w momencie gdy regułacje dotyczące sztucznej inteligencji na poziomie krajowym i międzynarodowym zaczynają się formować. Jeśli pracownicy wygrają lub sprawa zostanie ugodzona, mogłoby to zmusić Meta i inne korporacje technologiczne do znacznie bardziej rygorystycznego testowania swoich systemów AI pod kątem potencjalnych uprzedzeń przed zastosowaniem ich w procesach biznesowych.