Brytyjska Krajowa Agencja Bezpieczeństwa wydała ostrzeżenie dla rodziców, aby zaprzestali publicznego udostępniania zdjęć swoich dzieci w mediach społecznościowych i innych platformach internetowych. Rada wydana została wspólnie z Internet Watch Foundation, organizacją specjalizującą się w identyfikowaniu i usuwaniu materiałów ukazujących seksualnych nadużycia wobec dzieci. Fundacja zidentyfikowała już 8029 wygenerowanych przez sztuczną inteligencję obrazów i filmów wykorzystywanych do seksualnych nadużyć.
Zbieranie zdjęć dzieci z publicznych profili stanowi poważne zagrożenie, ponieważ mogą być one wykorzystywane jako materiał bazowy do generowania szkodliwych treści przy pomocy narzędzi AI. Niezabezpieczone fotografie umożliwiają sprawcom utworzenie realistycznych, wciąż zmieniających się materiałów, co utrudnia ich śledzenie i usuwanie z internetu. Problem jest szczególnie ostry, ponieważ każdy rodzic publikujący cotidienne zdjęcia dziecka, niewiedząc o tym, potencjalnie dostarcza surowca do tego procederu.
To ostrzeżenie odbija rosnący problem zaburzenia online i ilustruje, jak nowa technologia może być zarabiająca do szkodzenia dzieciom w cyfrowym świecie. Agencje bezpieczeństwa wzywają do podniesienia świadomości wśród rodziców na temat zagrożeń związanych z publicznym dzieleniem się zawartością dotyczącą ich dzieci oraz apelują do platform internetowych o zaostrzenie kontroli.