Kto naprawdę decyduje, jakimi osobami posługują się modele AI do generowania obrazów, tekstów czy rekomendacji? Badacze zaproponowali metodę, którą nazwali target-based prompting, pozwalającą precyzyjnie kontrolować reprezentację demograficzną w generowanych treściach. Chodzi o to, by modele takie jak DALL-E czy GPT mogły świadomie włączać do swoich wyników osoby z różnych grup społecznych, zamiast bezmyślnie powielać trendy z danych treningowych.
Problem jest prosty, ale niezwykle ważny: gdy model uczy się na materiałach dominowanych przez białych mężczyzn z krajów zachodnich, będzie dokładnie takie osoby generować przy pytaniu o "inżyniera" czy "dyrektora". W rezultacie inne grupy - kobiety, osoby o różnym pochodzeniu etnicznym, osoby starsze czy niepełnosprawne - są niemal niewidoczne w generowanych scenariuszach. To nie tylko kwestia czystej statystyki, ale rzeczywisty problem dotyczący uprzedzeń algorytmicznych i tego, jak sztuczna inteligencja wpłynie na nasze rozumienie profesji, roli społecznych czy po prostu normalności.
Target-based prompting to rozwiązanie, które daje użytkownikom oraz twórcom treści narzędzie do świadomego definiowania, kogo chcą zobaczyć w generowanych wynikach. Zamiast pozostawiać to dziełem przypadku i statystyki nauki maszynowej, badacze pokazują, że można to zautomatyzować i uczynić przewidywalnym. To otwarty dialog o tym, kto ma decydować o reprezentacji w AI - czy algorytm, czy człowiek? I jaka jest właściwie różnica między neutralnością a sprawiedliwością w świecie modelów generatywnych, które coraz bardziej definiują to, co widzimy online.