Armin Ronacher, znany autor frameworka Flask, zasugerował że industria programistyczna ponosi konsekwencje dekad złego projektowania oprogramowania. Jego spostrzeżenie, przywołane przez Simona Willesona, rzuca światło na to, jak sztuczna inteligencja może eksponować i powiększać istniejące problemy bezpieczeństwa i architektoniczne w starszych systemach.
Wypowiedź Ronachera odnosi się do fundamentalnego problemu: gdy modele AI operują na niedoskonałych bazach kodu i podatnych systemach, mogą wzmacniać ich słabości. Przez trzy dekady branża informatyczna budowała aplikacje z lekceważeniem bezpieczeństwa, technicznego długu i brakem solidnych fundamentów. Teraz, w dobie generatywnych modeli i LLM-ów, te systemy stają się podatne na nowe wektory ataków i nadużyć.
Perspektywa Ronachera wskazuje na to, że to nie samo AI stanowi największe zagrożenie - to połączenie sztucznej inteligencji z odziedziczonym po latach oprogramowaniem, które nigdy nie zostało zaprojektowane z myślą o takimi zagrożeniami. Obserwacja ta zbieżna jest z rosnącym polem badań nad bezpieczeństwem AI i bezpieczeństwem systemów zdominowanych przez modele uczenia maszynowego.