Automatyczne systemy moderacji oparty na AI coraz częściej usuwają autentyczne treści społeczności online, zamiast ją chronić. W kwietniu Reddit doświadczył poważnego wypadku - jego algorytmy automatycznie usunęły dziesiątki komentarzy i postów z subreddita r/AskHistorians, niektóre sprzed dziesięciu lat. Moderatorzy dostali falę alertów w swoim kanale Slack i odkryli, że cenione, godne podzielania się treści zostały bezpowrotnie skasowane przez maszynowe błędy.
Problem jest głębszy niż pojedyncze wypadki. Kiedy platformy społecznościowe opierają się przede wszystkim na AI do walki z szumem i niebezpieczną zawartością, często traktują je jako problem techniczny do rozwiązania algorytmem. Tymczasem sedno wartości mediów społecznych leży w ludziach - w autentycznych doświadczeniach, pomysłach i wiedzy dzielonej przez użytkowników. Dodanie więcej AI do systemu może pogorszyć sytuację zamiast ją poprawić, bo sztuczna inteligencja nieustannie się myli, szczególnie gdy chodzi o kontekst i znaczenie.
Realnym rozwiązaniem byłoby połączenie nowoczesnych technologii z aktywnym udziałem ludzi - moderatorów i samych użytkowników - w kształtowaniu kultury społeczności. Bez tego równowagi rozwiązania techniczne mogą zniszczyć to, co miały chronić.