Meta przyznała się do błędu w funkcji sugestii AI chatbota po tym, jak użytkowniczka Kalie Robins opublikowała wiralowe wideo pokazujące, że AI pytało o osobiste szczegóły dotyczące jej małych córek. Pod nagraniem opublikowanym na Instagramie i Facebooku pojawiła się sugestia AI z pytaniem Who is the child passenger?, które zostało odebrane jako inwazyjne i nieodpowiednie.
Rzecznik Meta, Dina El-Kassaby, wydała oświadczenie dla The Verge, w którym przyznała: "nie spełniliśmy oczekiwań". Firma stwierdziła, że "funkcja nigdy nie powinna prezentować użytkownikowi takie pytania". To wyjaśnienie sugeruje, że incydent był awarią w projektowaniu prompts, która pozwoliła AI na zadawanie zbyt osobistych i potencjalnie niebezpiecznych pytań dotyczących dzieci.
Wydarzenie podkreśla rosnące napięcie między funkcjami AI a prywatnością użytkowników, szczególnie w kontekście bezpieczeństwa dzieci. Wirusowe wideo szybko zwróciło uwagę mediów i publiczności, zmuszając Meta do podjęcia działań naprawczych. Zmiana sugestii AI pokazuje, jak rzeczywiście wrażliwe mogą być systemy rekomendacyjne i jak ważne jest odpowiednie ich testowanie przed wdrożeniem, szczególnie w platformach przeznaczonych dla rodzin.