Niemiecki sąd wydał wyrok nakazujący Google ponoszenie odpowiedzialności za błędy w Google AI overviews. Decyzja ta stała się punktem wyjścia dla dyskusji Bruce'a Schneiera na temat prawnych implikacji wdrażania sztucznej inteligencji w biznesie.
Schneier argumentuje, że AI powinni być traktowani prawnie jako agenci firmy, która je wdraża. Porównuje to do sytuacji, w której korporacja wynajęłaby zespół człowieka do pisania streszczeń - wtedy bez wątpienia poniosłaby odpowiedzialność za wszelkie nieścisłości i błędy merytoryczne. Stosując tę samą logikę, firmy powinny odpowiadać za halucynacje i pomyłki generowane przez ich modele AI.
Bezpośrednie pozwolenie przedsiębiorstwom na chowanie się za wymówką "AI zrobiła błąd" stanowiłoby ogromny podarunek dla korporacji i stworzyło niebezpieczne zachęty do nieodpowiedzialnego biznesu. Jeśli AI nie podlegają żadnej odpowiedzialności za pomyłki, firmy mogłyby rezygnować z zatrudniania doświadczonych prawników, lekarzy czy dziennikarzy na rzecz znacznie tańszych systemów, które w razie błędu nikt nie mógłby rozliczyć. To scenariusz groźny dla jakości usług i bezpieczeństwa konsumentów.