ChatGPT i Gemini przypadkowo wyciekają prywatne numery telefonów użytkowników w swoich odpowiedziach. Problem zdecydowanie bardziej poważny niż normalny przypadek chatbota, który coś pomieszał - badania pokazały, że modele sztucznej inteligencji od OpenAI i Google uczono na danych zaczerpniętych ze stron internetowych zawierających wrażliwe dane osobowe. Oznacza to systematyczną lukę w bezpieczeństwie, która może dotykać znaczną część użytkowników tych popularnychsystemów. Ryzyko samo się nawet nie ogranicza do prostej nieprzyjemności związanej z publicznym ujawnieniem numeru - może prowadzić do kradzieży tożsamości, oszustw czy niechcianego contactu od potencjalnych przestępców.
Rzecz w tym, że zarówno ChatGPT jak i Gemini były trenowane na ogromnych zbiorach danych pozyskanych z publicznych stron internetowych. Zadaniem twórców było nauczenie modeli naturalnego zrozumienia języka, ale w praktyce sieć złapała też wszystko to, co siedziało w tych źródłach - łącznie z adresami e-mail, numerami telefonów czy innymi danymi osobowymi ludzi, którzy o tym nie wiedzieli. Problem w tym, że niemożliwe jest precyzyjne „zapomnienie" tych informacji przez model - są one tkane w jego strukturę neuronową. Kiedy użytkownik zapyta chatbota o rzeczy związane z konkretną osobą, numer może wyskoczą naturalnie z głębi sieci.
To odkrycie podnosi szerszą kwestię gotowości firm zajmujących się AI do odpowiedzialności za bezpieczeństwo. OpenAI i Google muszą teraz zmierzyć się z pytaniami o to, jak mogły dopuścić do trenowania swoich flagowych modeli na danych zawierających dane osobowe bez zgody ich właścicieli. Dla użytkowników sprowadza się to do prostego wniosku - informacje, które podajemy online, mogą wcześniej czy później znaleźć się w odpowiedziach chatbota, niezależnie od tego, czy go o to pytaliśmy.