OpenAI twierdzi, że ChatGPT z nowym domyślnym modelem znacznie mniej halucynuje. Firma zaprezentowała ulepszenia, które mają radykalnie zmniejszyć liczbę nieprawdziwych informacji i wymyślonych faktów generowanych przez chatbota. Ta zmiana jest rezultatem pracy nad architekturą modelu i nowymi metodami trenowania, które mają podnosić dokładność odpowiedzi na każdym kroku.
Hallucynacje - czyli spontaniczne wymyślanie faktów, cytowań czy danych przez modele AI - to od lat jedno z największych ograniczeń dużych modeli językowych. Szczególnie problematyczne są w aplikacjach biznesowych, gdzie nieprawdziwa informacja może prowadzić do kosztownych błędów, oraz w naukowych zastosowaniach, gdzie dokładność jest absolutnie niezbędna. OpenAI rozumie, że aby ChatGPT stał się wiarygodnym narzędziem dla profesjonalistów, problem halucynacji musi zostać zdecydowanie rozwiązany.
Introducja nowego domyślnego modelu stanowi krok w kierunku większej pewności i wiarygodności systemu. Jeśli obietnica OpenAI sprawdzi się w praktyce, będzie to znaczące ulepszenie dla tysięcy firm i naukowców, którzy chcą korzystać z AI, ale nie mogą sobie pozwolić na ryzyko błędnych odpowiedzi. To zarazem znak, że zakład technologiczny wciąż traktuje redukcję halucynacji jako priorytet w rozwoju coraz bardziej zaawansowanych wersji swoich modeli.