Zespół badawczy przeprowadził warsztat audytu sztucznej inteligencji na konferencji EurIPS 2025, w którym uczestniczyło 16 członków społeczności queer badających cztery rzeczywiste przypadki szkód wyrządzanych przez systemy AI. Problem polega na tym, że sztuczna inteligencja utrwala domyślne ustawienia grupy większościowej w danych treningowych, metrykach oceny i definicjach kategorii, co prowadzi do wymazywania osób queer, błędnej klasyfikacji i dyskryminacji.
Standardowe audyty techniczne zwykle opierają się na miarach zagregowanych i nie mogą wykryć szkód, które stają się widoczne tylko poprzez bezpośrednie doświadczenie dotkniętych społeczności. Uczestnicy warsztatu zastosowali ustrukturyzowane arkusze robocze i taksonomię 4Cs (Content - treść, Conduct - postępowanie, Contact - interakcje, Contract - umowy) do klasyfikacji szkód na każdym etapie cyklu życia AI. Ich analiza wykazała, że źródła problemów sięgają fazy definiowania problemu i zbierania danych. Dodatkowo zidentyfikowali struktury umowne, które ekstrahują wartość z populacji narażonych na szkody, oferując im minimalny dostęp do zadośćuczynienia.
Wyniku badania pokazują, że audyty prowadzone przy udziale społeczności odkrywają konkretne, specyficzne dla tożsamości szkody, które metody ewaluacji oparte na miarach zagregowanych mogą łatwo pominąć. To ma znaczenie dla przyszłości rozwoju i oceny systemów AI, bo wskazuje, że włączenie głosu dotkniętych społeczności powinno stać się standardem w procesach audytu i certyfikacji technologii.