Laplace Intelligence, startup wydzielony z Uniwersytetu Michigan, opracował metodę intensywnego testowania robotów i samochodów autonomicznych przez symulacje oparte na agentach AI, zanim trafią one na drogi czy do fabryk. Firma zajmuje się red-teamingiem - celowym szukaniem przypadków granicznych i scenariuszy, które mogą spowodować niepowodzenie autonomicznych systemów.
Zachodzą tu interaktywne symulacje, w których AI-owe agenty aktywnie próbują znaleźć błędy w działaniu testowanych robotów lub pojazdów. Podejście to jest znacznie bardziej efektywne niż tradycyjne testowanie, bo zamiast czekać aż system zawiodzie w naturalnych warunkach, zespół sztucznej inteligencji systematycznie generuje trudne scenariusze. Startup już osiągnął rentowność, co sugeruje rzeczywisty popyt rynkowy na takie usługi. Firma konkuruje w Startup Battlefield na TechCrunch Disrupt 2024 (13-15 października w San Francisco).
To pojawienie się jest znaczące w kontekście niedawnych problemów branży autonomicznej - od wypadków taksówek robotycznych po trudności firm takich jak Aurora czy Waymo ze skalowaniem operacji. Zanim autonomiczne systemy będą masowo wdrażane, potrzebują rygorystycznego testowania, które Laplace oferuje. Metodologia tej firmy mogłaby zmienić podejście branży do walidacji bezpieczeństwa, szczególnie dla systemów krytycznych dla bezpieczeństwa.