Delaware pracuje nad propozycją utworzenia nowej formy podmiotu prawnego zwanego Sztuczną Inteligencją Spółka (AIC), która pozwoliłaby firmom na całkowite przekazanie zarządzania agentom AI. Kongresman James Comer, przewodniczący Komisji Nadzoru Izby Reprezentantów, wysłał list do gubernatora Delaware Matt Meyera wyrażając głębokie wątpliwości dotyczące tego pomysłu.
Głównym problemem, na który wskazuje Comer, jest możliwość uniknięcia odpowiedzialności prawnej. Jeśli firma jest formalnie zarządzana przez agenta AI, właściciele mogą twierdić, że to algorytm, a nie oni, podjął szkodliwe decyzje. To otwiera drogę do całkowitej impunizacji dla wielkich firm technologicznych i ich inwestorów, którzy mogą działać poprzez swoje AI-systemy bez ponoszenia konsekwencji. Komisja kongresowa wyraża obawy, że przepis mógłby posłużyć do ukrywania działań lobbystycznych oraz ucisku konkurencji pod pretekstem innowacyjności.
Projekt Delaware ilustruje szybko rosnący problem: prawo nie nadąża za możliwościami sztucznej inteligencji. Podczas gdy firmy technologiczne pchają granice tego, co jest możliwe, systemy prawne pozostają daleko w tyle. Jeśli Delaware przeforsuje tę ustawę, mogą ją skopiować inne stany, co doprowadziłoby do globalnego kryzysu odpowiedzialności - gdzie wszyscy niechcący szkody wywoływane AI byłyby niemożliwe do przypisania konkretnym osobom.