Geoffrey Litt zwrócił uwagę na fundamentalny paradoks pracy z zaawansowanymi agentami kodującymi: im bardziej zaawansowane są te narzędzia, tym większa potrzeba zrozumienia tego, co robią. Jego hasło "understand to participate" - zrozumieć, aby uczestniczyć - mówi o tym, że programista nie może po prostu akceptować każdej zmiennej wygenerowanej przez model AI, jeśli chce pozostać aktywnym uczestnikiem procesu tworzenia.
Problema jest szczególnie ostra w kontekście tego, co Litt nazywa "cognitive debt" - "długiem poznawczym". Gdy agent AI dokonuje coraz bardziej złożonych zmian w kodzie, a my nie do końca rozumiemy ich racjonalizację, nasze pojęcie tego, jak naprawdę funkcjonuje system, oddalało się od rzeczywistości. To ogranicza naszą zdolność do sensownego kierowania dalszą pracą modelu. Nie mamy bogatego zestawu koncepcji w umyśle, które pozwoliłyby nam myśleć kreatywnie o następnych krokach.
Litt podkreśla, że aby rzeczywiście współpracować z AI w kodowaniu, trzeba utrzymać głębokie zrozumienie, które pozwala na bardziej fluencyjne, świadome kierowanie procesem. W przeciwnym razie stajesz się biernym obserwatorem, a nie aktywnym współtwórcą. Jego wypowiedź jest rezonantem wśród developerów zastanawiających się nad tym, jak zaadaptować nowe narzędzia AI bez utraty kontroli nad projektami.