Sztuczna inteligencja będzie bezpieczna tylko wtedy, gdy twórcy postawią etykę na równi z innowacją. To główna teza Amy Trahey, ekspertki zajmującej się odpowiedzialnym rozwojem AI, która ostrzega przed skupianiem się wyłącznie na postępie technologicznym. Zdaniem Trahey bieżący wyścig o nowe możliwości algorytmów przesłania kluczową kwestię - integralność systemów, które za kilka lat będą podejmować decyzje wpływające na życie milionów ludzi. Jeśli teraz nie wdrożymy mechanizmów przejrzystości i kontroli, może się okazać, że zbudowaliśmy narzędzia, którymi nie potrafimy kierować.
Ekspertka wskazuje konkretne zagrożenia: modele AI trenowane bez uwagi na reprezentatywność danych utrwalają stereotypy, niezaudytowany kod decyzyjny utrudnia wyjaśnienie użytkownikom, dlaczego system podjął daną decyzję, a brak odpowiedzialności twórców zmniejsza motywację do naprawy błędów. Te problemy nie są teoretyczne - już teraz widać ich skutki w systemach stosowanych w medycynie, wymiarze sprawiedliwości czy rekrutacji. Bez zmiany podejścia zagrożenia będą się tylko mnożyć.
Propozycja Trahey to inwestycja w kulturę odpowiedzialności od początku procesu rozwojowego. Chodzi o regularny audit danych, jawne dokumentowanie ograniczeń modeli, testowanie na osobach z niepełnosprawnościami i mniejszościach, a przede wszystkim o budowanie zaufania przez transparentne komunikowanie o tym, co AI może, a czego nie. To oznacza, że czasem trzeba będzie powiedzieć "nie" lukratywnej aplikacji, bo jej ryzyka są zbyt duże. Trahey sugeruje, że firmy odkrywają paradoks: długoterminowy sukces AI wymaga krótkookresowych ograniczeń. Zaufanie trzeba zarabiać, a nie wymuszać.