Physics-informed neural networks (PINNs) mają poważny problem z dokładnością pochodnych, nawet gdy dobrze przybliżają wartości funkcji. Naukowcy testowali wielowarstwowe sieci perceptronów trenowane tylko na wartościach funkcji sin(x) i exp(x), a następnie sprawdzali drugie pochodne uzyskane poprzez automatyczne różniczkowanie. Okazało się, że sieć mogła wizualnie dokładnie przybliżać funkcje, jednocześnie popełniając znacznie większe błędy przy obliczaniu pochodnych, szczególnie w pobliżu granic z dużą krzywizną.
Za tym stoi fundamentalny problem w sposobie, w jaki działają PINN-y. Sieci te wykorzystują automatyczne różniczkowanie do narzucenia residuów równań różniczkowych jako warunków treningowych. Jednak badania pokazują, że dobra zgodność w wartościach funkcji niekoniecznie gwarantuje dokładne pochodne - te dwa cele mogą być praktycznie rozprzęgnięte podczas trenowania. Eksperymenty obejmowały warianty z różnymi gęstościami punktów treningowych, funkcjami aktywacji, zagęszczeniami na brzegach i diagnostyką zarówno błędu L2, jak i maksymalnego.
Znajomość tego problemu jest kluczowa dla wdrożeń praktycznych PINN-ów w inżynierii i naukach ścisłych. Jeśli sieć ma reprezentować fizykę zawartą w równaniach różniczkowych, musi być dokładna w pochodnych - a nie tylko w przybliżeniu wartości funkcji. Opublikowane wyniki dostarczają protokołu diagnostycznego do rozróżniania dokładności wartości od niezawodności residuów fizycznych, co może pomóc badaczom weryfikować rzeczywistą użyteczność swoich modeli.