Badacze stworzyli Ghost Font - specjalną czcionkę, którą człowiek bez trudu odczyta, jednak współczesne modele AI nie są w stanie jej poprawnie rozpoznawać. Czcionka wykorzystuje cechy wizualne, które dla ludzkiego mózgu są intuicyjne, lecz dla algorytmów rozpoznawania obrazu stanowią znaczną przeszkodę.
Technologia opiera się na różnicach między sposobem, w jaki ludzie przetwarzają tekst a mechanizmem działania sieci neuronowych zajmujących się widzeniem komputerowym. Ghost Font wprowadza subtelne zaburzenia lub modyfikacje w strukturze liter, które nie wpływają na zdolność człowieka do czytania, ale dezorientują systemy AI podczas ich analizy. To pokazuje, jak wiele aspektów ludzkiej percepcji wizualnej pozostaje wciąż wyzwaniem dla sztucznej inteligencji.
Potencjalne zastosowania tej czcionki obejmują ochronę tekstu przed nieautoryzowanym skanowaniem i analizą przez boty AI, zabezpieczenie poufnych dokumentów czy ochronę przed masowym zbieraniem danych do trenowania modeli. Jednocześnie projekt ilustruje kluczową podatność współczesnych systemów AI - ich wrażliwość na wizualne perturbacje, które dla człowieka są nieznaczące. To podkreśla znaczenie dalszych badań nad odpornością i bezpieczeństwem modeli wizyjnych.