Brytyjski nadzorca rządowy rozważa formalnym śledztwem wobec Ministerstwa Spraw Wewnętrznych za wykorzystanie technologii ChatGPT do przetwarzania wniosków azylowych. Śledztwo zostało podjęte w odpowiedzi na obawy związane z dokładnością narzędzi AI oraz brakiem transparentności i ujawniania stosowania tych rozwiązań.
Użycie modeli OpenAI w tak wrażliwym procesie jak rozpatrywanie spraw azylowych rodzi znaczące pytania o bezpieczeństwo i niezawodność. Systemy takie jak ChatGPT, choć potrafią generować przekonujące odpowiedzi, mogą popełniać błędy i halucynować informacje, co w kontekście decyzji o przyznaniu azylu może mieć tragiczne konsekwencje dla wnioskodawców. Brak transparentności w stosowaniu tych narzędzi dodatkowo utrudnia ocenę ich wpływu na jakość i sprawiedliwość procesu.
Ta sprawa ilustruje szerszą dyskusję o przyspieszonym wdrażaniu AI w sektorze publicznym bez wystarczających gwarancji i nadzoru. W miarę jak rządy eksperymentują z sztuczną inteligencją w kluczowych obszarach, nasilają się apele o wprowadzenie silniejszych regulacji, wymogów przejrzystości oraz obowiązkowych audytów systemy te przed ich rzeczywistym zastosowaniem.