Badacz z pwning.systems odkrył przypadkowo, że mechanizmy pamięci implementowane w modelach języka mogą działać jako narzędzie do analizy programów i kodu. Podczas eksperymentów z architekturą LLM zauważył, że system w nieoczekiwany sposób zaczął przetwarzać i analizować struktury kodu, podobnie jak robiłby to tradycyjny statyczny analyzer.
To odkrycie jest znaczące, ponieważ pokazuje, że granice między różnymi zastosowaniami sztucznej inteligencji nie są tak ostra, jak się powszechnie uważa. Pamięć w modelach językowych, zwykle kojarzona z kontekstem rozmowy czy przechowywaniem informacji tekstowych, okazała się zdolna do wykonywania bardziej zaawansowanych operacji logicznych wymaganych w analizie programów. Wynik zainteresował społeczność na Hacker News, gromadząc ponad 100 punktów i 24 komentarze.
Znajdowanie to może mieć praktyczne implikacje dla bezpieczeństwa, debugowania kodu i zautomatyzowanego odkrywania podatności. Wykorzystanie LLM do analizy programów mogłoby uzupełnić istniejące narzędzia i oferować nowe perspektywy na problemy związane ze zrozumieniem skomplikowanych systemów programowych.