Niemiecki sąd wydał orzeczenie, które ma przełomowe konsekwencje dla odpowiedzialności biznesu AI. Uznał, że Google ponosi pełną odpowiedzialność prawną za nieprawdziwe informacje wygenerowane przez funkcję AI Overviews, która podsumowuje wyniki wyszukiwania za pomocą sztucznej inteligencji.
To nie jest wymóg, aby firma jedynie ostrzegała użytkowników o możliwości błędów czy dystansowała się od treści AI. Sąd stanął na stanowisku, że producent systemu – od jego projektowania, przez trening, aż do codziennego zarządzania – musi przyjąć pełną odpowiedzialność za wszelkie straty i szkody wynikające z jego działalności. To oznacza realną, materialne konsekwencje prawne, a nie tylko dysklaimer.
Werdykt ma ogromne znaczenie dla całej branży technologicznej. Dotychczas wiele firm ukrywało się za nieprecyzyjnymi oświadczeniami na temat limitów odpowiedzialności lub twierdził, że AI jest zbyt skomplikowana do pełnego nadzoru. Niemiecki precedens pokazuje, że europejskie sądy nie akceptują takich wymówek. To może zmusić gigantów technologicznych do zmiany podejścia do bezpieczeństwa AI, testowania oraz przejrzystości swoich systemów. Dla użytkowników potencjalnie oznacza lepszą ochronę prawną, a dla firm – znacznie wyższe koszty operacyjne związane z zapewnieniem dokładności i bezpieczeństwa swoich produktów opartych na AI.