Circuit Breaker Labs stworzyła "crash-test dummies" - modele testowe przeznaczone do badania bezpieczeństwa systemów AI pod kątem potencjalnych szkód psychicznych. Zamiast spekulować na temat dystopijnych scenariuszy przyszłości, startup skoncentrował się na realnych zagrożeniach, które mogą już dzisiaj dotykać użytkowników, zwłaszcza dzieci.
Podejście przypomina testowanie bezpieczeństwa samochodów, gdzie crash-testy ujawniają rzeczywiste słabe punkty zanim pojazd trafi do konsumentów. Analogicznie, modele testowe pozwalają zidentyfikować, jak AI może negatywnie wpływać na psychikę - poprzez uzależnianie, manipulację, rozpowszechnianie fałszywych informacji czy wzmacnianie zaburzeń psychicznych. Ta metoda jest praktyczna i niezwłoczna, w przeciwieństwie do bardziej abstrakcyjnych dyskusji o kontroli sztucznej inteligencji.
Takie podejście może być kluczowe dla regulacji branży i wdrażania mechanizmów bezpieczeństwa w popularnych aplikacjach AI. Jeśli Circuit Breaker Labs zdolna będzie dokumentować konkretne scenariusze szkodliwego zachowania, producenci mogą być zmotywowani do wprowadzenia zabezpieczeń przed upublicznieniem swoich produktów. To szczególnie ważne dla ochrony dzieci, które mogą być bardziej podatne na psychologiczne wpływy sztucznej inteligencji.