Kyle Kingsbury, uznany eksperta od testowania systemów rozproszonych, zwraca uwagę na głęboką konsekwencję rozpowszechnienia dużych modeli języków: erozję zaufania do dokumentacji, kodu i całych organizacji stojących za nimi. Problem nie tkwi w samych narzędziach, ale w tym jak zmienia się percepcja ich wiarygodności.
Dotychczas inżynierowie mogli się orientować po pewnych oznakach dojrzałości projektu - starannie napisana dokumentacja, konsekwentna architektura, przemyślane testy. Te wszystkie sygnały są jednak coraz łatwiejsze do sfałszowania za sprawą AI generujących tekst i kod. Młody projekt może teraz prezentować się profesjonalnie nawet jeśli jest ledwo prototypem, co komplikuje podejmowanie decyzji o adopcji nowego oprogramowania.
Kingsbury stawia praktyczne pytania dla opiekunów projektów: jak w erze LLM-ów zapewnić rzeczywiście poprawne oprogramowanie i dokładną dokumentację? A następnie - jak udowodnić ich jakość potencjalnym użytkownikom? To nie jest już wystarczające, że coś wygląda profesjonalnie. Potrzebne są nowe sposoby weryfikacji jakości poza samą zawartością, być może bardziej sformalizowane procesy testowania, przejrzyste procedury review czy mierzalne metryki niezależne od zawartości wygenerowanej przez AI.