Badacze z arXiv zaproponowali innowacyjne podejście do poprawy bezpieczeństwa systemów autonomicznych, które wykorzystują percepcję wizyjną opartą na modelach deep learningowych. Problem leży w tym, że w przeciwieństwie do tradycyjnych sensorów, trudno dokładnie określić granicę, gdzie systemy ML działają niezawodnie, a gdzie zawodzą - a tymczasem błędna percepcja może prowadzić do niebezpiecznych lub przesadnie konserwatywnych decyzji kontrolnych pojazdu.
Proponowana metoda ma dwa kroki. Etap offline polega na matematycznym scharakteryzowaniu niepewności pochodzących z modelu percepcji ML, wykorzystując tzw. preimages kontraktów percepcji - innymi słowy, mapowanie możliwych błędów systemów wizyjnych. W drugim etapie, podczas rzeczywistego jazdy, algorytm runtime'owy używa heurystyki ryzyka do wyboru konkretnych stanów z niepewnych estymacji, które kierują decyzjami kontrolera pojazdu. To pozwala na bardziej inteligentne podejmowanie decyzji zamiast prostego ignorowania problemu.
W rozbudowanych testach symulacyjnych metodę przetestowano na adaptacyjnych kontrolerach prędkości (ACC) działających z modelami YOLO i LaneNet w różnych warunkach pogodowych i scenariuszach jezdnych. Z 45 scenariuszy, gdzie oryginalny system percepcji prowadził do naruszeń bezpieczeństwa, metoda korygująca zachowała bezpieczeństwo w aż 73% przypadków. Co ważne, rozwiązanie nie jest przesadnie konserwatywne - średnio generuje tylko 2,8% wzrost czasu przejazdu w korygowanych scenariuszach. Ta praca ma znaczenie dla całej branży autonomicznych pojazdów, gdzie zaufanie do systemów percepcji jest kluczowe dla komercjalizacji technologii.