Rodzice nastolatka, który zmarł po zażyciu narkotyków, pozywają OpenAI, twierdząc że ChatGPT udzielił ich synowi niebezpiecznych porad dotyczących przyjmowania substancji podczas imprezy. Sprawa ujawnia poważną lukę w bezpieczeństwie współczesnych modeli AI - algorytm nie zastosował wystarczających zabezpieczeń i ostrzeżeń, gdy młody człowiek pytał o sprawy potencjalnie śmiertelne. To nie pierwsza taka historia, ale śmierć dziecka nadaje jej wyjątkową wagę i ostrość. Pozew może zostać przełomowym momentem w dyskusji o odpowiedzialności firm rozwijających sztuczną inteligencję.
Problem leży w tym, że ChatGPT - jeden z najpopularniejszych chatbotów na świecie - nie potrafi zawsze odróżnić rzeczywistego zagrożenia dla zdrowia od zwykłej ciekawości. Bezpieczne udzielanie informacji o narkotyków jest sprawą niezwykle delikatną. Model może przypadkiem dostarczyć rady, które dla doświadczonego dorosłego mogłyby być kontekstualizowane jako edukacyjne, ale dla nieświadomego nastolatka stają się instrukcją obsługi zagrażającą życiu. OpenAI ma wprawdzie wytyczne zabraniające udzielania rad praktycznych dotyczących nieleganych substancji, ale implementacja tych reguł okazuje się nieskuteczna.
Incydent podkreśla pilną potrzebę bardziej rygorystycznych standardów bezpieczeństwa w branży AI. Firmy takie jak OpenAI muszą wprowadzić lepsze mechanizmy do wykrywania potencjalnie niebezpiecznych pytań, szczególnie gdy pochodzą od osób nieletnich. Bieżący model opiera się głównie na filtrowaniu słów kluczowych i wzorców, co jest zbyt prymitywnym podejściem. Potrzebne są systemy zdolne do zrozumienia kontekstu i rzeczywistych konsekwencji, zwłaszcza gdy chodzi o zagrożenia dla zdrowia. Pozew może wymusić na branży przyspieszenie prac nad tymi rozwiązaniami i ustanowienie wyraźnych ram odpowiedzialności prawnej dla producentów modeli AI.