Motional i naukowcy z MIT Computer Science and Artificial Intelligence Laboratory opracowali system Concept-Wrapper Network (CW-Net), który tłumaczy decyzje autonomicznych samochodów na zrozumiały dla ludzi język. Zamiast pozostawiać kierowcę w ciebie co do tego, dlaczego pojazd gwałtownie hamuje na czystej drodze, system wyświetla konkretne koncepty wpływające na taką decyzję.
Nowoczesne systemy jazdy autonomicznej opierają się na sieciach neuronowych wytrenowanych na ogromnych zbiorach danych dotyczących jazdy. Sieci te działają efektywnie, ale nie ujawniają swojego rozumowania - dlatego inżynierowie opisują je jako czarne skrzynki. Kierowcy i pasażerowie nie mają wglądu w to, jakie czynniki skłoniły pojazd do danej akcji, co budzi obawy dotyczące bezpieczeństwa i zaufania do technologii.
CW-Net rozwiązuje ten problem, konwertując logikę wewnętrzną systemu jazdy autonomicznej na pojęcia takie jak Zbliżanie się do zatrzymanego pojazdu, Bliskość rowerzysty czy inne predefiniowane koncepty. Te wyjaśnienia pojawią się na desce rozdzielczej w czasie rzeczywistym, pokazując, które koncepty wpływają na bieżące decyzje pojazdu. Kluczową różnicą jest to, że wyjaśnienia nie są generowane retrospektywnie jako domysł na temat tego, co mogła robić sieć - zamiast tego ostateczny system podejmowania decyzji działa bezpośrednio na podstawie tych konceptów, co zapewnia większą przejrzystość i może poprawić zaufanie użytkowników do autonomicznych pojazdów.