Badacze odkryli poważną lukę teoretyczną w metodach ochrony prywatności danych przetwarzanych przez głębokie sieci neuronowe, szczególnie w przypadku ukrytych stanów pośrednich. Chodzi o sytuacje, w których gwarancje bezpieczeństwa - wydające się solidne na papierze - mogą okazać się znacznie mniej efektywne niż zakładano. Problem dotyczy przede wszystkim stanów internal, czyli reprezentacji danych na wewnętrznych warstwach modelu, które teorię mogłyby być podatne na ataki mające na celu ekstrakcję wrażliwych informacji.
Odkrycie ma istotne implikacje dla wszystkich systemów machine learning operujących na poufnych danych - od diagnostyki medycznej po systemy biometryczne czy financial analytics. Dotychczasowe mechanizmy ochrony prywatności, takie jak differential privacy, mogą nie zapewniać wystarczającej ochrony w miejscach, gdzie się jej najmniej spodziewamy. Oznacza to, że obecne podejścia do projektowania bezpiecznych sieci neuronowych mogą wymagać gruntownego przemodelowania, aby uwzględnić te ślepe plamki w ochronie danych.
Badania te są znaczące dla całej branży AI, ponieważ sektory takie jak opieka zdrowotna czy finanse polegają na założeniu, że ich systemy chroniące prywatność działają jak powinny. Teraz konieczne będzie bardziej wnikliwe projektowanie architektur sieciowych oraz opracowanie nowych, bardziej niezawodnych mechanizmów ochrony, które będą uwzględniać również bezpieczeństwo ukrytych reprezentacji. To z pewnością przyspieszyt dyskusję nad standardami bezpieczeństwa w deep learningu i może wpłynąć na regulacje dotyczące przetwarzania danych wrażliwych.