Modele językowe AI rozwijają własne uprzedzenia podczas podejmowania decyzji rekrutacyjnych na podstawie doświadczenia, a nie tylko dziedziczą je z danych treningowych. Naukowcy z Princeton University i University of Chicago testowali ChatGPT, Claude'a i Gemini'ego w symulowanej grze zatrudnieniowej inspirowanej badaniami psychologicznymi nad formowaniem się stereotypów u ludzi. Modelom przydzielono rolę konsultantów, którzy mieli wytypować kandydatów na 20 różnych stanowisk - od lekarzy i prawników po opiekunów dziecka i sprzątaczy. Kandydaci pochodzili z czterech fikcyjnych grup etnicznych, a wszystkie miały dokładnie równe szanse powodzenia na każdym stanowisku.
Wyniku były zaskakujące: modele szybko zaczęły segregować kandydatów z różnych grup na podstawie etnicznych stereotypów, przydzielając im różne typy pracy. To zjawisko nabrało tempa z każdą nową rundą gry - AI uczyło się i wzmacniało swoje uprzedzenia. Problem jest tym bardziej niebezpieczny, że w rzeczywistym świecie coraz więcej firm automatyzuje początkowe etapy rekrutacji za pomocą AI do przesiewania CV. Tradycyjnie zakładano, że algorytmy będą obiektywne, ale ta i wcześniejsze badania pokazują, że systemy uczenia maszynowego mogą rozwijać lub nawet amplifikować uprzedzenia.
Sytuacja może się jeszcze pogorszyć wraz z rozwojem agentic models - zaawansowanych systemów AI zdolnych do zapamiętywania szczegółów o użytkownikach i ich interakcjach. Gdyby takie modele były wykorzystywane w procesach HR, mogłyby budować i utrwalać uprzedzenia na dużo większą skalę. Badanie sugeruje, że firmy wdrażające AI do rekrutacji powinny wprowadzić dodatkowe walidacje i monitorowanie, aby upewnić się, że systemy nie perpetuują lub nie tworzą nowych dyskryminacji.