Naukowcy opracowali system do automatycznego wykrywania patronizującej i kondescendencjonalnej mowy - formy szkodliwego języka, który zwłaszcza dotyka grup wrażliwych. W przeciwieństwie do jawnej mowy nienawiści, ta forma dyskryminacji jest zakamuflowana i trudna do identyfikacji, co potwierdzają badania - nawet oceniający-ludzie mają z nią problemy.
Badacze przetestowali dwa podejścia. Pierwsze wykorzystywało statyczne word embeddings i sieci konwolucyjne do klasyfikacji tekstu. Drugie, znacznie bardziej efektywne, opierało się na pre-trained modelach BERT, które zostały dostrojone poprzez fine-tuning specjalnie dla zadania wykrywania tego typu mowy. Model BERT uzyskał wynik F1 na poziomie 0,528 na zbiorze deweloperskim, co wskazuje na przyzwoity postęp w tym obszarze.
System testowano zarówno na tekście angielskim, jak i mandaryńskim, co podkreśla potencjał tego podejścia dla różnych języków. Efektywne wykrywanie patronizującej mowy może znaleźć zastosowanie w narzędziach moderacji zawartości, ochronie mniejszości społecznych i tworzeniu bardziej inkluzywnych przestrzeni online. To szczególnie istotne, gdyż tego typu język, choć subtelniejszy niż mowa nienawiści, systematycznie utrwala szkodliwe stereotypy i marginalizuje wrażliwe grupy społeczne.