Duże modele języka wykazują znaczące różnice w wydajności w zależności od tego, na jakich danych były trenowane i jaką formę przyjmuje wejściowy tekst. Badacze z arXiv postawili pytanie, czy LLM mogą dekodować fonetycznie zaszyfrowany tekst - sekretny kod lingwistyczny - z taką samą sprawnością i kreatywnością, co ludzie. Projekt CyrillicQA skupia się na zbadaniu tej zdolności w kontekście języków cyrilicznych.
Problem jest głębszy: choć modele LLM radzą sobie doskonale ze standardowym tekstem w popularne, wygodne dla nich językach łacińskich, słabiej radziły sobie z wariantami językowymi i mniej rozpowszechnionymi systemami pismem. To wskazuje na wbudowane odchylenie w wyborze danych treningowych, które privilegizuje języki z dużą populacją mówiących. Odkrycie to ma implikacje zarówno dla bezstronności sztucznej inteligencji, jak i dla jej praktycznego zastosowania.
Jednocześnie badania sugerują, że LLM mogą stanowić potencjalnie cenną narzędzie do zachowywania zagrożonych języków i dialektów. Jeśli będą w stanie rozwijać zdolności do abstrakcji i dekodowania fonetycznie zasugerowanychForm, mogą pomóc w dokumentacji i rekonstrukcji wymierających systemów komunikacji. Problem leży jednak w zrozumieniu rzeczywistych granic kreatywności i ogólności tych modeli.