Naukowcy z arXiv zaproponowali nową metodę LLMMAD do wykrywania anomalii w systemach mikroserwisowych, opartą na dużych modelach językowych. Framework rozwiązuje dwa kluczowe problemy istniejących podejść: niewystarczające uwzględnianie specyfiki każdego typu danych oraz problem identity-shortcut w procesie rekonstrukcji cech.
Ramy rozwiązania działają w trzech krokach. Po pierwsze, LLMMAD konwertuje dane multimodalne (metryki wydajności, logi, traces) w unified sekwencję, którą przetwarza LLM, aby modelować związki między różnymi typami danych. Jednocześnie każdy typ danych ma dedykowaną głowicę rekonstrukcji, która zachowuje jego specyficzne cechy. Po drugie, framework używa celu autoregresyjnego - zamiast przewidywać kopię bieżących danych, model uczy się przewidywać przyszłe stany systemu, co eliminuje identity-shortcut problem.
Badacze przetestowali podejście na trzech rzeczywistych zbiorach danych z systemów produkcyjnych. Eksperymentalne wyniki wykazały, że LLMMAD osiąga lepsze rezultaty niż istniejące metody. To ma praktyczne znaczenie, bo w architekturach mikroserwisowych błędy lub anomalie w wydajności mogą szybko rozmnażać się między usługami, potencjalnie doprowadzając do całkowitego załamania się systemu. Efektywne wykrywanie anomalii pozwala zespołom DevOps reagować znacznie szybciej na problemy zanim rozprzestrzenią się szerzej.