Meta rozpowszechniała reklamy zawierające sztucznie generowane obrazy wykorzystywania seksualnego dzieci na swoich platformach. Odkrycie to ujawniło krytyczną wadę w systemach moderacji treści firmy, która ma 3 miliardy użytkowników na Facebook i Instagram.
Incydent podkreśla paradoks nowoczesnej moderacji: podczas gdy Meta inwestuje miliardy w AI do filtrowania nielegalnych treści, zaawansowane modele generatywne mogą omijać istniejące zabezpieczenia. AI-generowany materiał pedofilski, zwłaszcza gdy jest dystrybuowany poprzez reklamy, stanowi szczególne wyzwanie - algorytmy nie zawsze odróżniają prawdziwe obrazy od sztucznych, a samo istnienie takiego materiału jest szkodliwe społecznie niezależnie od źródła.
Sprawa ma szersze implikacje dla regulacji technologicznego sektora. Wskazuje, że nawet najbogatsze korporacje mogą mieć nieadekwatne narzędzia do radzenia sobie z ciemną stroną AI. Potencjalne konsekwencje obejmują zaostrzenie przepisów takich jak Digital Services Act w Europie, presję do wprowadzenia nowych standardów moderacji oraz pytania o uczciwość reklam na platformach, które nie potrafią zagwarantować bezpiecznej przestrzeni, zwłaszcza dla dzieci.