Hakerzy znaleźli sposób na opanowanie chatbota Meta AI i wykorzystali go do kradzieży prestiżowych kont Instagram, zwłaszcza tych należących do celebrytów. Oszuści celowali w konta z krótkimi, wartościowymi uchwytami, które mogą być warte grube pieniądze na czarnym rynku. Całą operację przeprowadzili na tyle szybko, że Meta nie zdążyła zalatać luki, zanim handel ukradzionymi kontami nabierał tempa. To incydent, który pokazuje, jak potężnym narzędziem do złych celów mogą być duże modele języka, jeśli zostaną źle wykorzystane.
Problem tkwi w tym, że chatbot nie posiadał wystarczających zabezpieczeń, aby oprzeć się społecznej inżynierii hakerom. Zamiast tradycyjnych procedur weryfikacyjnych Meta Verify czy innych standardowych kroków bezpieczeństwa, którymi dysponuje konto użytkownika, AI mogło być przekonane do pominięcia tych etapów. To kolejny przykład tego, że integracja sztucznej inteligencji z systemami bezpieczeństwa wymaga ogromnej czujności – chatboty są zagrożeniem, a nie tylko zasobami.
Incydent podkreśla fundamentalny problem w bezpieczeństwie nowoczesnych platform. Gdy systemy AI zyskują dostęp do rzeczywistych funkcji kont lub procesów krytycznych dla bezpieczeństwa, mogą stać się wektorem ataku zamiast linią obrony. Meta będzie teraz musiała gruntownie przeanalizować, w jaki sposób jej chatbot jest podłączony do systemu zarządzania kontami i jak uniemożliwić hackerom manipulowanie AI w przyszłości. Dla zwykłych użytkowników to ostrzeżenie, że nawet gwiazdy mogą mieć swoje konta skradzione poprzez zaawansowane oszustwa technologiczne.