Około 80 stron pomocy na stronie WhatsApp przez pomyłkę ujawniło wewnętrzne instrukcje dla chatbota Meta, w tym szczegółowe wytyczne dotyczące tego, co system powinien i nie powinien mówić. Materiały zawierały instrukcje dotyczące obsługi różnych scenariuszy i ograniczeń narzędzia, które Meta chciała trzymać w tajemnicy.
Meta potwierdziła, że przyczyną wycieku był błąd techniczny, a nie złośliwe działania. Jednak incydent podkreśla szerszy problem z bezpieczeństwem systemów AI - nawet duże korporacje mają trudności z chronieniem wrażliwych informacji na temat swoich modeli. Wyciek darmowych instrukcji chatbota może być szczególnie problematyczny, ponieważ pokazuje jak konkretnie system został zaprogramowany, aby unikać pewnych tematów i udzielać określonych odpowiedzi.
To nie pierwszy raz, gdy Meta ma problemy z wyciekami danych AI. Incydent ponownie robi wrażenie na ochronę prywatności i transparentności wokół sztucznej inteligencji - głównie przez to, że ujawnił, jakie instrukcje są ukrywane przed publiczną wiedzą. Pytanie pozostaje, czy takie wycieki ostatecznie skłonią firmy do większej jawności dotyczącej ograniczeń i wytycznych dla swoich chatbotów, czy też będą one po prostu starannie ukrywane w bardziej bezpieczny sposób.