Trenowanie pełnych grafowych sieci neuronowych na klastrach wieloserwerowych tradycyjnie cierpi na znaczne opóźnienia komunikacyjne spowodowane wymianami embeddingów między węzłami, co ogranicza skalowanie i efektywność. SNI-GNN rozwiązuje ten problem poprzez przesunięcie predykcji embeddingów do warstwy sieciowej, konkretnie na karty SmartNIC z procesorami DPU. System wykorzystuje lekki liniowy predyktor trendów, który na podstawie historycznych embeddingów przechowywanych w cache wysyła optymalne przybliżenia do węzłów obliczeniowych, zmniejszając liczbę transferów danych między serwerami.
Implementacja na NVIDIA BlueField-3 wykazuje, że podejście działa w praktyce. Benchmarki na grafach z dziesiątkami milionów krawędzi pokazują redukcję komunikacji o 21-45 procent oraz przyspieszenie 1,3 do 3,6 raza nad metodą BNS-GCN. Autorzy dostarczają również ścisłe analizy teoretyczne, potwierdzające że błędy predykcji pozostają kontrolowane przy ograniczonej dynamice drugiego rzędu, a konwergencja przebiega standardowo mimo niedokładnych gradientów.
To odkrycie jest ważne dla trenowania dużych modeli GNN na producjnych klastrach, gdzie komunikacja stanowi często główny problem wydajności. SNI-GNN integruje się z istniejącymi systemami GNN, bez wymagania radykalnych zmian architektury, i stanowi praktyczne uzupełnienie dla innych technik optymalizacyjnych takich jak partycjonowanie czy kompresja danych.