Indyjskie ministerstwo przygotowuje formalne wezwanie dla kierownictwa Meta w odpowiedzi na raport BBC ujawniający, że Instagram wyświetlał reklamy promujące materiały wykorzystujące dzieci. Dochodzenie dziennikarskie BBC wykazało systematyczne problemy z moderacją systemu reklamowego platformy, która nie zatrzymała tego typu zawartości przed dotarciem do użytkowników.
Minister IT Ashwini Vaishnaw bezpośrednio nakazał swoim urzędnikom poproszenie Meta o szczegółowe wyjaśnienia. Sprawa dotyczy nie tylko luk w systemach bezpieczeństwa, ale także potencjalnego naruszenia indyjskiego prawa dotyczącego ochrony dzieci w internecie. Instagram, posiadając miliard użytkowników na całym świecie, ma obowiązki szczególnie wysokie w kwestii moderacji treści, zwłaszcza materiałów zawierających exploatację małoletnich.
To wezwanie może mieć poważne konsekwencje dla działalności Meta w Indiach, jednym z jej największych rynków. Kraj aktywnie wzmacnia przepisy dotyczące odpowiedzialności platform cyfrowych, a taka porażka w bezpieczeństwie dzieci może prowadzić do kar finansowych, ograniczeń operacyjnych lub dalszych restrykcji regulacyjnych. Sprawa uwidacznia wciąż istniejące braki w automatycznych systemach detekcji sztucznej inteligencji, szczególnie w identyfikowaniu i zatrzymywaniu szkodliwych treści.