Modele AI Google'a mają kłopot z czymś pozornie prostym - poprawnym napisaniem słowa "Google". Problem nie dotyczy tylko nazwy firmy, ale całej kategorii zadań wymagających precyzyjnego operowania poszczególnymi literami, od tworzenia anagramów po poprawną transkrypcję tekstu. Okazuje się, że popularne modele językowe takie jak Gemini czy inne tego typu systemy regularnie mylą się przy składaniu nawet podstawowych wyrazów, co wskazuje na znacznie głębszy problem niż zwykłe błędy treningowe.
Źródłem kłopotu jest sposób, w jaki transformatory przetwarzają tekst. Zamiast pracować na poziomie poszczególnych znaków, modele dzielą język na tokeny - fragmenty mogące odpowiadać pojedynczym literom, sylabom lub całym wyrazom. To podejście jest efektywne dla ogólnego zrozumienia tekstu, ale całkowicie zawodzi w zadaniach wymagających świadomości oryginalnej struktury napisanego słowa. Kiedy model musi przywoływać co dokładnie się znajduje na każdej pozycji znakowej, jego architektura po prostu nie dostarcza potrzebnych narzędzi. To jest fundamentalna luka w konstrukcji tych systemów, którą dostrzegł szerszy krąg badaczy i praktyków.
Problem ma realne konsekwencje dla użytkowników. Jeśli AI nie potrafi niezawodnie napisać żądanego słowa czy tworzyć proste transformacje ortograficzne, oznacza to ograniczenia w wielu praktycznych zastosowaniach - od kodowania, gdzie precyzja jest krytyczna, po zadania logistyczne czy formularze wymagające dokładności. Google wie o problemie i pracuje nad rozwiązaniami, ale na razie pokazuje to, że nawet największe laboratorium AI stoi przed wyzwaniami, które trafiają w sedno tego, jak współcześnie budujemy inteligencję sztuczną.