Meta wprowadza nową funkcję bezpieczeństwa, która będzie powiadamiać rodziców nastolatków, gdy ci rozmówią z chatbotem Meta AI o samouszkodzeniach lub myślach samobójczych. Zmiana została ogłoszona w poście na blogu Meta w czwartek. Powiadomienia trafiają do opiekunów, którzy korzystają z narzędzi Family Center na Instagramie i są już aktywne w Stanach Zjednoczonych, Wielkiej Brytanii, Australii i Kanadzie.
System działa jako dodatkowa warstwa ochrony dla młodych użytkowników platformy. Kiedy nastolatkowie podczas rozmowy z Meta AI poruszą tematy związane z samouszkodzeniami lub ideacją samobójczą, system automatycznie generuje alert dla swoich opiekunów. Funkcja ma na celu nie tylko ostrzeżenie rodziców, ale również umożliwienie im bardziej świadomego angażowania się w rozmowy z dziećmi na temat zdrowia psychicznego.
To posunięcie wpisuje się w szerszą strategię Meta dotyczącą odpowiedzialności firm technologicznych za bezpieczeństwo psychiczne nastolatków. W ostatnich latach platformy społecznościowe znalazły się pod presją ze względu na potencjalny wpływ na zdrowie psychiczne użytkowników. Poprzez integrację monitorowania AI z parental controls, Meta stara się zrównoważyć prywatność młodych ludzi z potrzebą ingerencji dorosłych w krytycznych sytuacjach.