Zespół badaczy opublikował E-SpecFormer - architekturę transformera przeznaczoną do urządzeń o ograniczonych zasobach, zdolną do automatycznego rozpoznawania modulacji sygnałów radiowych i detekowania ukrytych kanałów komunikacyjnych. Kluczową innowacją jest mechanizm LiTAN (Linear Tanh Attention Network), który rezygnuje z tradycyjnego Softmax i LayerNorm, zmniejszając liczbę operacji wymaganych przez model.
Model dostępny jest w czterech wariantach - Nano, Small, Medium i Large - pozwalających dostosować się do różnych ograniczeń sprzętowych. Wariant Nano zawiera mniej niż 10 tysięcy parametrów, co czyni go wyjątkowo lekkim dla urządzeń brzegowych. Na testach używających dataset RadioML2018 do rozpoznawania modulacji osiąga średnią dokładność 86,5% dla sygnałów ze stosunkiem sygnału do szumu powyżej 0 dB. Na zadaniu detektowania trojanów sprzętowych poprzez ukryte kanały radzi sobie jeszcze lepiej - 94,2% dokładności.
Wydajność jest imponująca: E-SpecFormer przetwarza każdą ramkę danych w około 92 mikrosekund podczas współ-wykonywania na FPGA i CPU, co pozwala na monitoring spektra w czasie rzeczywistym. To znacznie mniej czasu niż wymagają konkurencyjne rozwiązania edge, przy jednocześnie niższych kosztach implementacji. Badacze udostępnili kod na GitHubie, otwierając możliwości zastosowania w sieciach IoT, systemach bezpieczeństwa radiowego i innych aplikacjach wymagających szybkiej analizy spektrum na urządzeniach brzegowych.