Setki pracowników kontraktowych Meta podszywały się pod nastolatków w celu testowania sposobu, w jaki konkurencyjne chatboty takie jak Google Gemini i OpenAI ChatGPT reagują na ryzykowne tematy związane z samobójstwami, seksem i narkotykami. Odkrycie tego projektu zostało ujawnione przez redakcję Wired, która przeanalizowała dokumenty i przeprowadzila rozmowy ze źródłami wtajemniczonymi.
Taki rodzaj testowania jest powszechnym elementem oceny bezpieczeństwa systemów AI - firmy technologiczne zatrudniają kontraktorów do roli adversarial testing, czyli szukania luk w zabezpieczeniach i granic systemów poprzez symulowanie zagrożonych grup użytkowników. W tym przypadku Meta zdawała się badać, czy konkurencyjne narzędzia mogą być niebezpieczne dla młodych ludzi, którzy mogą się nimi posługiwać. Jednak praktyka posługiwania się personami małoletnich przez dorosłych pracowników budzi etyczne pytania o przejrzystość i sposób prowadzenia takich badań.
Projekt wpisuje się w szerszą debatę na temat regulacji i bezpieczeństwa chatbotów w obliczu rosnącego dostępu młodzieży do sztucznej inteligencji. Ujawnienie tej praktyki może skłonić do dyskusji o granicach adversarial testingu w branży oraz o tym, jakie standardy etyczne powinny obowiązywać przy badaniu bezpieczeństwa systemów AI, szczególnie w kontekście ochrony młodych użytkowników.