Startup Pramaana Labs uzyskał finansowanie w wysokości 27 milionów dolarów od Khosla Ventures, aby opracować rozwiązania z zakresu formalnej weryfikacji dla sztucznej inteligencji. To podejście matematyczne ma zagwarantować niezawodność i bezpieczeństwo systemów AI w krytycznych zastosowaniach.
Pramaana concentruje się na sektorach, gdzie brak precyzji może mieć poważne konsekwencje finansowe i prawne. Dotyczy to branży prawniczej, gdzie błędne interpretacje mogą prowadzić do strat majątkowych, odkrywania leków, gdzie niepoprawne prognozowanie może kosztować lata badań, oraz przygotowania podatków, gdzie muszą być gwarantowane maksymalne dokładność. W tych dziedzinach tradycyjne testowanie modeli AI nie zawsze wystarczy.
Formalna weryfikacja stanowi zmianę paradygmatu w stosunku do obecnego podejścia do bezpieczeństwa AI. Zamiast polegać na testach empirycznych i empirycznych benchmarkach, to podejście wykorzystuje dowody matematyczne by pokazać, że system zawsze będzie działać prawidłowo w określonych warunkach. Inwestycja od renomowanego venture capital fund Khosla Ventures sygnalizuje rosnące zainteresowanie metodami gwarantowania niezawodności AI w aplikacjach, gdzie stawka jest wysoka.