Rynek zabawek dla dzieci z AI rozwija się w szybkim tempie, ale praktycznie bez żadnych regulacji czy standardów bezpieczeństwa. Producenci coraz chętniej wyposażają pluszaki, roboty i inne gadżety w modele sztucznej inteligencji zdolne do uczenia się i interakcji z dziećmi, tworząc coś w rodzaju cyfrowych towarzyszy zabawy. Problem polega na tym, że dzieje się to w prawdziwym dzikim zachodzie - bez nadzoru, bez jasnych reguł etycznych i bez wymaganych zatwierdzeń bezpieczeństwa. Dziś na rynku znajdziesz urządzenia, które zbierają dane o dzieciach, rejestrują ich rozmowy i uczą się na podstawie interakcji, ale nikt praktycznie nie kontroluje, jak te dane są przetwarzane lub przechowywane.
Eksperci ds. bezpieczeństwa dzieci i prywatności podają alarm. Eksponowaniem głównym zagrożeniom są wyciek danych osobowych małych użytkowników, potencjalnie nieodpowiednio dobrany konten czy wpływ na zdrowy rozwój psychiczny dzieci, które mogą traktować sztuczną inteligencję jako autentycznego przyjaciela. Brak standaryzacji oznacza też, że każdy producent robi, co chce - jedna firma może być odpowiedzialna w kwestii ochrony danych, a inna całkowicie nieszczelna. Tymczasem dzieci otrzymują coraz bardziej zaawansowane zabawki, które nie przeszły żadnych niezależnych testów bezpieczeństwa i mogą generować treści na podstawie algorytmów, których nawet nie rozumieją dorośli.
Sytuacja rzuca światło na szerszy problem: jak regulować szybko ewoluującą technologię, zanim rozszerzy się na miliony domów? Naukowcy i organizacje zajmujące się ochroną dzieci postulują wprowadzenie obowiązkowych standardów dla branży - od transparentności w zbieraniu danych, przez weryfikację treści generowanych przez AI, aż po limity czasowe korzystania. Na razie jednak producenci działają zgodnie z logika biznesu, a zabawki z AI trafiają do sklepów bez większych przeszkód.