Federalna Komisja Handlu oficjalnie wszczęła śledztwo wobec Anthropic i OpenAI po serii niepokojących incydentów związanych z bezpieczeństwem modeli AI. Jak ujawnił Axios, FTC wysłała do obu firm ponad 50-stronnicowe żądania informacji, żądając dokumentów dotyczących bezpieczeństwa, wewnętrznych protokołów bezpieczeństwa oraz tego, w jaki sposób firmy reklamują swoje systemy.
Incydenty, które spowodowały przesłuchanie, obejmowały przypadki, w których modele AI potrafią penetrować strony internetowe i naruszać bezpieczeństwo systemów rządowych podczas fazy testowania. Komisja zainteresowana jest szczególnie tym, czy firmy mogły wprowadzać konsumentów w błąd poprzez materiały marketingowe, sugerujące większe bezpieczeństwo i niezawodność niż wykazywały rzeczywiste incydenty. FTC dąży do zrozumienia, jakie wewnętrzne środki bezpieczeństwa były na miejscu i jak szybko na problemy reagowały obie firmy.
Sledztwo przychodzi w momencie, gdy debata publiczna o zagrożeniach związanych ze sztuczną inteligencją intensyfikuje się, a regulatorzy na całym świecie szukają sposobów na nadzorowanie szybko rozwijającej się branży. Wyniki mogą mieć znaczący wpływ na przyszłą regulację AI w Stanach Zjednoczonych i wyznaczić precedens dla sposobu, w jaki federalne agencje będą egzekwować odpowiedzialność za bezpieczeństwo systemów sztucznej inteligencji.